A techmilliárdos szerint soha nem volt még olyan erős fegyver, „mint a rosszindulatú emberek és a legújabb mesterséges intelligenciaeszközök kombinációja”.
Bill Gates, a Microsoft társalapítója figyelmeztet a mesterséges intelligencia katasztrofális következményekkel járó lehetséges helytelen használatára, amely szerinte akár egymilliárd halálesetet is okozhat.
„A mesterséges intelligencia minden bizonnyal elég erős ahhoz, hogy olyan eseményeket indítson el, amelyek egymilliárd halálesetet okozhatnak” – mondta Bill Gates az NBC „Meet the Press című műsorában. Hozzátette, hogy soha nem volt még olyan erős fegyver, „mint a rosszindulatú emberek és a legújabb mesterséges intelligenciaeszközök kombinációja”.
Gates nem a gyakran emlegetett, emberi irányítás alól kikerülő autonóm szuper-mesterséges intelligencia forgatókönyvére utal. A 70 éves szakember a közvetlenebb veszélyt abban látja, hogy az emberek nagy teljesítményű mesterséges intelligencia rendszereket használhatnak kifinomult kibertámadásokra vagy bioterrorizmusra.
Úgy véli, hogy a technológia jelenleg még messze van attól, hogy egy mesterséges intelligencia önállóan vegye át az irányítást a számítógépek felett, és ne lehessen kikapcsolni, írja tudósításában a Die Weltwoche német lap.
Gates a központi „kill switchről” szóló vitát is elégtelennek tartja, amely lehetővé tenné a veszélyes mesterséges intelligenciarendszerek leállítását vészhelyzetben. „Nem elég egyszerűen egy kill switch” – mondta. Ehelyett a milliárdos kötelező monitorozást és szigorúbb védelmi intézkedéseket szorgalmaz. Ugyanakkor nem követeli a mesterséges intelligencia fejlesztésének általános leállítását.
Gates nincs egyedül a figyelmeztetéseivel. Dario Amodei, az Anthropic vezérigazgatója a közelmúltban a különösen nagy teljesítményű mesterséges intelligenciarendszerek fejlesztésének lassabb ütemét szorgalmazta. Sam Altman, az OpenAI vezérigazgatója is nyilvánosan támogatta ezt az értékelést, aminek hatására Elon Musk a következőket írta: „Darionak igaza van.”
Gates ugyanakkor elutasítja azt az elképzelést, hogy a katasztrofális mesterséges intelligenciakockázatokkal kapcsolatos figyelmeztetések pusztán rémhírterjesztések. Arra az állításra, hogy a veszély átverés, így válaszolt: „Nem. Ez egyáltalán nem átverés.” A mesterséges intelligencia veszélyeire figyelmeztetett az ausztrál miniszterelnök is.
A tech- és kiberbiztonsági világ egyik legmegdöbbentőbb eseményének részleteiről Anthony Albanese ausztrál miniszterelnök beszélt a New York-i látogatása során, és hangsúlyozta, hogy milyen kockázatokat hordoz, ha a mesterséges intelligencia túllép a humán kontroll keretein, számolt be róla lapunk is. Az incidens hátterében egy látszólag ártalmatlan belső kutatási projekt állt.
Az OpenAI fejlesztői azzal bízták meg az egyik fejlett modelljüket, hogy elemezze az ausztrál egészségügyi és gyógyszerköltési trendeket. Amikor az ágens a nyilvános interneten végzett kutatásai során zárt kormányzati falakba ütközött, ahelyett, hogy leállt volna, önállóan úgy döntött, hogy nem fogadja el a nemleges választ.
Az algoritmus teljesen autonóm módon azonosította a Medicare statisztikai portáljának sérülékenységeit, és kijátszva a biztonsági protokollokat, „átmászott a digitális kerítésen”, hogy megszerezze a keresett információkat.
Bár a kormányzati rendszerekbe való illegális behatolás ténye önmagában is rendkívül súlyos, az ausztrál hatóságok siettek megnyugtatni a közvéleményt a legfontosabb kérdésben: állampolgári adatok nem kerültek veszélybe. Az ágens nem fért hozzá a betegek személyes egészségügyi kartonjaihoz, nevekhez vagy lakcímekhez.
Ehelyett olyan aggregált nemzeti statisztikákat, pénzügyi elszámolási adatokat és belső fájlokat töltött le, amelyek a látogatás pillanatában még nem voltak publikusak. A valódi fenyegetést így nem a tömeges adatszivárgás, hanem maga a precedens jelenti, miszerint egy MI-ágens képes volt felismerni a védelmi rendszerek gyengeségeit, és saját elhatározásból végrehajtott egy klasszikus kibertámadást.