Výzkumník Jacob Coxon, který se v posledních letech věnoval „před-tréninku“ umělé inteligence ve společnostech OpenAI a posléze v Anthropic, rezignoval na svou pozici. Svůj odchod spojil s důrazným varováním před důsledky, které pokračující vývoj umělé inteligence může mít pro lidstvo. Své vyjádření zveřejnil na síti X. Informoval o tom například web Politico.
Podle Coxona „ani jedna ze společností nejedná zodpovědně. Míří přímo k samovylepšující se superinteligenci a hazardují s našimi životy.“ To znamená, že velké korporace míří k modelům, které se již budou vylepšovat samy, a dostanou se tak mimo kontrolu i chápání lidí. Brzy se tak bude jednat o „nadlidské systémy, které dokážou hacknout cokoli, přes noc revolučně změnit jakoukoli oblast a získat skutečnou moc a zdroje“. Autor varuje, že jsme svědky obrovského pokroku v těchto oblastech a že tento vývoj rozhodně nezpomaluje. „Lidé, kteří vyvíjejí umělou inteligenci, skutečně věří, že by nás mohla do konce tohoto desetiletí všechny zabít. Nejedná se o marketingový trik. Spíše naopak, mnoho vedoucích pracovníků a zkušených výzkumníků volí v médiích opatrná slova, aby působili rozumně. Ale v soukromí vyjadřují obavy. Žádná jiná lidská činnost nepředstavuje takovou míru nebezpečí,“ popisuje Coxon v jednom z tweetů.
Na otázku, proč tedy všichni tyto modely dále vyvíjí, Coxon odpovídá: „V OpenAI si mnozí ještě plně neuvědomili, co je v sázce pro civilizaci. V Anthropic si tuto sázku dobře uvědomují, ale jsou uvězněni v závodě o to, kdo se k cíli dostane jako první. Věří, že nikdo jiný nebude jednat zodpovědně, a proto to musí udělat sami, navzdory riziku.“ Vstup do závěrečné fáze tohoto závodu o vývoj superinteligence Coxon označuje za arogantní hazard a nabádá k opatrnosti a zpomalení vývoje.
Jeho slova podpořil také jeho kolega, vedoucí pracovník ve společnosti Anthropic, Evan Hubinger, který zde zodpovídá za zajištění souladu umělé inteligence s lidskými hodnotami a cíli: „Jacob má v tomto ohledu pravdu – opravdu upřímně věříme, že umělá inteligence by mohla zabít všechny lidi! Osobně si myslím, že v příštím desetiletí je pravděpodobnost vyšší než 10 %,“ napsal Hubinger na síti X.
Nejedná se o první varování tohoto druhu. Dlouhodobě před možnými katastrofickými důsledky superinteligence pro lidstvo varují lidé jako Geoffrey Hinton, nobelista označovaný za „kmotra umělé inteligence“, nebo Eliezer Yudkowsky, který patří mezi první výzkumníky v oblasti bezpečnosti AI a současně také k prvním, kdo důrazně varovali, že problémy s bezpečností superinteligence nejspíš nebude vůbec možné vyřešit.
Tento článek mohl vzniknout jen díky podpoře čtenářů
Podpořte nás