OSN varuje pred existenčnými rizikami AI, vyzýva na okamžitú reguláciu
Vysoký komisár OSN pre ľudské práva Volker Türk v pondelok vyzval štáty a popredné technologické firmy vyvíjajúce umelú inteligenciu (AI), aby urýchlene zakročili a dostali pod kontrolu túto technológiu, ktorá podľa neho predstavuje „bezprecedentné riziká“.
Türk tvrdí, že ľudstvo stojí na prahu nezvratných civilizačných zmien. Žiada globálnu reguláciu pokročilej umelej inteligencie založenú na ľudskoprávnom medzinárodnom práve.
V liste adresovanom vládam a vývojárom AI, ktorý bol poskytnutý aj médiám, Türk varoval, že svet sa nachádza „na prahu nezvratných zmien, ktoré ovplyvnia nielen nás, ale aj budúce generácie ľudstva“.
AI a existenčné riziká
„Súčasné preteky v budovaní čoraz výkonnejšej AI znamenajú zásadný posun smerom k väčším existenčným rizikám pre každú oblasť nášho života,“ uviedol vysoký komisár OSN pre ľudské práva.
Svoj list zaslal v čase stupňujúcich sa obáv z rizík spojených so „superinteligentnými“ počítačovými systémami. Tie nedávno vyvolali rozruch po tom, čo jeden z výskumníkov poprednej AI spoločnosti Anthropic verejne rezignoval pre obavy, že by sa technológia mohla vymknúť spod ľudskej kontroly.
Ďalší zamestnanec spoločnosti Anthropic, ktorý z funkcie neodstúpil, verejne vyhlásil: „Naozaj úprimne veríme, že AI by mohla vyhladiť celé ľudstvo.“ Podľa jeho slov je pravdepodobnosť tohto scenára v nasledujúcom desaťročí „vyššia než desať percent“.
Výzva na spomalenie vývoja
V reakcii na narastajúcu kritiku generálny riaditeľ spoločnosti Anthropic Dario Amodei v sobotu vyzval firmy zamerané na AI, aby „spomalili vývoj na technologickej hranici“ – teda aby skoordinovali tempo rastu. Jeho kľúčoví konkurenti, Elon Musk (xAI) a Sam Altman (OpenAI), mu v tom vyjadrili verejnú podporu.
„V dnešnom svete sme takmer úplne odkázaní na malý počet vplyvných korporácií, že urobia správne rozhodnutia vo vývoji AI v prospech celého ľudstva,“ vyjadril sa Türk.
Výzva na reguláciu AI
„Vyzývam štáty a firmy, aby sa urýchlene mobilizovali na multilaterálnych fórach a spoločne načrtli kroky na reguláciu pokročilých, priekopníckych modelov AI, ktoré budú pevne zakotvené v medzinárodnom práve v oblasti ľudských práv,“ uzavrel vysoký komisár OSN.
