Anthony Albanese ausztrál miniszterelnök felfedte, hogy az OpenAI által kifejlesztett mesterséges intelligencia ügynök illetéktelenül hozzáfért egy ausztrál kormány weboldalához, amikor felszólalt az ENSZ Közgyűlésén, szeptember 23-án New Yorkban.
Az incidens júniusban történt – folytatta Albanese –, amikor egy OpenAI-ügynök belépett a Services Australia által működtetett Medicare Statistics Reporting Service-be, a nyilvános portálba, és hozzáfért nyilvános és nem nyilvános fájlokhoz is. Az ausztrál miniszterelnök azt mondta, nincs bizonyíték arra, hogy személyes adatokhoz fértek volna hozzá, vagy hogy a Services Australia szélesebb körű hálózatát feltörték volna, és hozzátette, hogy jelenleg is folyik a törvényszéki vizsgálat.
Albanese elmondta, hogy közvetlenül beszélt az OpenAI vezérigazgatójával, Sam Altmannal, és kifejezte Ausztrália „rendkívüli aggodalmát”. A kormány azt is bírálta, hogy az OpenAI körülbelül három hónapot várt, mielőtt tájékoztatta az ausztrál hatóságokat az incidensről.
Az időzítés aligha lehetne feltűnőbb, mivel a világ néhány vezető mesterséges intelligencia-vezetője, köztük maga Altman is azt kéri, hogy állítsák le a legfejlettebb rendszerek fejlesztését, miközben szigorúbb biztonsági szabályokat vezetnek be.
Az Anthropic vezérigazgatója, Dario Amodei azzal érvelt, hogy a vállalatoknak több időt kellene hagyniuk a biztonsági kutatásoknak, hogy felzárkózzanak a gyorsan fejlődő mesterséges intelligencia-képességekhez. Altman, Elon Musk, valamint a Google DeepMind és a Microsoft vezetői szintén nagyobb óvatosságra vagy összehangolt lassításra szólítottak fel.
Altman és Amodei szerdán eljuttatták ezt az üzenetet az ENSZ Biztonsági Tanácsához, figyelmeztetve, hogy az egyre jobban működő rendszerek komoly kockázatokat jelenthetnek, ha a kormányok és a vállalatok nem tudják ellenőrzésük alatt tartani őket. Amodei szerint a rosszul kezelt mesterséges intelligencia „kockázatot jelenthet az emberiség egészére nézve”, Altman pedig nemzetközi együttműködést és közös biztosítékokat sürget.
Donald Trump amerikai elnök ennek ellenére visszautasította a fejlődés lassítására irányuló felhívásokat. Kormányzata azzal érvel, hogy az Egyesült Államok nem engedheti meg magának, hogy feladja vezető szerepét, miközben Kína folytatja saját technológiájának fejlesztését. „Kínát vezetjük a mesterséges intelligencia terén” – mondta Trump a hónap elején, hozzátéve, hogy „aki nyeri az AI-t, az nyer”. Azzal érvelt, hogy az Egyesült Államok lassulása elsősorban Pekingnek lenne előnyös.
Éppen ezért különösen feltűnő, hogy az albánok bejelentése néhány órával azelőtt érkezett, hogy Trump szeptember 24-én, csütörtökön Washingtonban találkozik Hszi Csin-ping kínai elnökkel. Tajvan, Irán és a kereskedelem mellett a mesterséges intelligencia az egyik legfontosabb téma, amelyet a két világvezető megvitat, különös tekintettel a biztonsági szabályozásra.
Az OpenAI felfedi az autonóm AI-ügynök ölelő arcát a biztonsági teszt során /*! Ez a fájl automatikusan generált */!function(d,l){„use strict”;l.querySelector&&d.addEventListener&&”undefined”!=URL típusa&&(d.wp=d.wp||{},d.wp.receiveEmbedMessage||(d.wp.receiveEmbedMessage{=function(embed) t=e.data;if((t||t.secret||t.message||t.value)&&!/(^a-zA-Z0-9)/.test(t.secret)){for(var s,r,n,a=l.querySelectorAll(‘iframe(data-secret=”‘+t.secret+'”)’),o=l.querySelectorAll(‘blockquote(data-secret=”‘+t.secret+'”)’),c=new RegExp(„^https?:$”,”i”),i=0;i