Den Agent op Basis vu Kënschtlecher Intelligenz hätt op ëffentlech an net-ëffentlech Donnéeë vun der Statistikagence fir d'Gesondheet zougegraff, huet den australesche Premierminister Anthony Albanese e Mëttwoch um Bord vun der UN-Vollversammlung zu New York gesot. OpenAI huet de Virfall confirméiert.
Wéinst der rasanter Entwécklung vun der Kënschtlecher Intelligenz hunn d'Cheffe vun e puer KI-Betriber virum UN-Sécherheetsrot op en Neits virun de Risike vun hirer eegener Technologie gewarnt.
De Virfall wier "inakzeptabel", esou den Albanese zu dem KI-Ugrëff, dee sengen Aussoen no schonn am Juni geschitt ass. Deemno hätt OpenAI déi australesch Regierung awer eréischt den 10. September op de Virfall opmierksam gemaach - an zwar an enger Mail un eng allgemeng Mailadress, dee just eemol den Dag gekuckt gëtt.
De KI-Tool vun OpenAI hätt zum Thema Gesondheet recherchéiert an dobäi probéiert, op vertraulech Donnéeën zeréckzegräifen, sot den australesche Premier Albanese. Wou den Zougrëff blockéiert gouf, hätt d'KI no Weeër gesicht, d'Spär ze ëmgoen. "Ech denken OpenAI ass sech bewosst, datt ee besser Protokoller aféiere muss", esou de Premier. De Projet wier a "Beräicher virgedrongen, an deen en net hätt virdrängen dierfen."
De Premier huet erkläert, et géif keng Hiweiser dorop ginn, datt d'Netzwierk vun den australesche Regierungsagence weider kompromettéiert gi wier. Den aktuellen Erkenntnisser no wieren och keng perséinlech Donnéeën ofgeruff ginn. D'Ermëttlungen dozou ginn aktuell awer och nach weider a sinn net ofgeschloss, huet den Albanese nach gesot. Ausserdeem wëllen d'Date-Forensiker nach erausfannen, wéi eng aner Regierungssystemer betraff kéinte sinn.
Hien hätt mam OpenAI-Chef Sam Altman geschwat, "fir déi grouss Suerg vun Australien iwwert dëse Virfall zum Ausdrock ze bréngen", esou den Albanese nach. Hien hätt och "seng Enttäuschung" doriwwer zum Ausdrock bruecht, datt OpenAI "vill ze laang gebraucht huet, fir eis Regierung iwwert den Tëschefall ze informéieren."
OpenAI huet méi spéit matgedeelt, datt enger rezenter Analys no "eng Rei australesch Regierungssitte" betraff gewiescht wieren. Et wieren "Aktivitéiten am Zesummenhang mat verschiddene Websäiten an Déngschter vun der australescher Regierung" festgestallt ginn.
OpenAI-Modeller hätte wärend enger interner Bewäertung "probéiert, Äntwerten an disponibel Statistiken zu Froen iwwer Australien ofzeruffen", huet et an der Stellungnam weider geheescht. "Dobäi hunn eis Modeller Aktiounen ausgefouert, déi mir net wollten."
Op der Sëtzung vum UN-Sécherheetsrot zu KI haten d'Cheffe vun enger Rei Tech-Entreprisen op en Neits op Risiken higewisen a fir eng méi lues Entwécklung am Secteur plädéiert.
Den OpenAI-Chef Altman sot zu New York, den aktuelle Stadium vun der KI-Entwécklung géif "onheemlech Virsiicht" fuerderen. D'Branche dierft "net ze vill technologesch Risiken akzeptéieren, just well d'Virdeeler ze grouss an ze wichteg sinn, fir den Tempo ze drosselen."
Den Anthropic-Chef Dario Amodei huet an enger Video-Usprooch verséchert: "Mir wäerten den Tempo esou wäit drossele wéi néideg, fir datt all KI-Technologie, déi vun eis publizéiert gëtt, tatsächlech sécher ass."
D'Sëtzung vum UN-Sécherheetsrot war vu Frankräich aberuff ginn. De franséischen Ausseminister Jean-Noël Barrot sot, KI géif fir de weltwäite Fridden an d'Sécherheet eng änlech Gefor duerstellen, wéi d'Atomtechnologie. Hien huet sech dowéinst fir eng international KI-Konventioun ausgesprach.
An Virfeld vun der UN-Generaldebatt haten 18 Staats-a Regierungscheffe verbindlech Sécherheetsreegele fir besonnesch performant KI-Modeller gefuerdert. Esou Systemer géife mat net genuch Kontroll "seriö Risike fir Sécherheet a Schutz" mat sech bréngen, huet et e Méindeg am ëffentlechen Opruff geheescht.
Den Amodei (Anthropic) an den Altman (OpenAI) hate viru Kuerzem zu enger méi lueser Entwécklung vu KI-Modeller opgeruff. Grond waren eng Rei Tëschefäll, bei deene KI-Modeller aus hirem Testëmfeld ausgebrach waren an iwwert den Internet aner Betriber a Plattformen attackéiert hunn. Dat huet Ängschte viru méiglecherweis onkontrolléierbare KI-Modeller nach emol multiplizéiert.
An engem oppene Bréif hunn 100 Betriber, dorënner OpenAI an Anthropic, eng global Ustrengung gefuerdert, fir d'Cyber-Ofwier ze stäerken, dat virop géint Sécherheetsmenacen duerch KI.
