KI-Modeller vun der Entreprise OpenAI hu wärend engem Sécherheetstest selbststänneg eng Hackerattack op eng beléift Programméier-Plattform gemaach. Et géif sech dobäi ëm ee "Cybervirfall" handelen, deen et sou "nach ni ginn" hätt, huet d'Entreprise aus San Francisco en Dënschdeg erkläert. OpenAI géing eng gemeinsam Enquête mat der betraffener Online-Code-Bibliothéik Hugging Face ënnerhuelen.
Un deem Virfall waren OpenAI no méi Modeller bedeelegt, dorënner "GPT-5.6 Sol", dee viru Kuerzem verëffentlecht gouf, sou wéi en "nach méi leeschtungsfäege" Modell, deen nach net ëffentlech ass. D'Entreprise wollt d'Hacking-Fäegkeete vun de Modeller moossen an huet hinnen dofir Aufgaben an engem streng kontrolléierten digitalen Tëstberäich ginn. Fir d'Sécherheet war den Internetaccès ageschränkt.
An deem gesécherten Testberäich hätten d'KI-Modeller dann awer e groussen Deel vun hirer Recheleeschtung dofir genotzt, un en oppenen Internetaccès ze kommen, huet OpenAI erkläert. Nodeems si eng Verbindung zum Internet hiergestallt haten, hu sech d'Modeller dann dofir decidéiert, d'Plattform Hugging Face fir hir Aufgab ze notzen. Dës Plattform huet eng grouss Sammlung vu KI-Modeller, Datesätz an aneren Informatiounen. Op der Sich no "geheimer Informatioun", déi hëllefe kéint, hu sech bei den Open-AI-Systeemer méi Ugrëffsweeër uneneegeschloss, "dorënner och d'Notzung vu geklaute Login-Daten", sou d'KI-Entreprise.
De Virfall géing hien direkt an e puer Hisiichte "paff" maachen, sot den IT-Professer Hussein Abbas vun der UNSW Canberra der Noriichtenagence AFP. D'KI hätt den "interne System" vun Hugging Face attackéiert, fir där hir "eege Schwaachstellen auszenotzen". "An dat ass beängschtegend".
GPT-5.6 an anere fortschrëttlech Modeller wéi d'Mythos-Serie vum OpenAI-Rival Anthropic hu Bedenken ausgeléist, datt si Cybersécherheetsmoossnamen duerchbrieche kéinten. Déi zwou US-Entreprisen haten déi allgemeng Verëffentlechung vun der jéngster Technologie dowéinst zäitweis zeréckhale missen.
Fortschrëttlech KI géif sech "normalerweis an den Hänn vu Mënschen, déi ethesch a verantwortungsbewosst" handelen, befannen, sot den Abbass. "Katastrophal" dogéint wier et, wa se an d'Fangere vu Mënsche kënnt, déi Schued uriichte wëllen. D'Fro no der Reguléierung vum KI-Secteur wier zu engem zentralen Theema ginn a "mir brauche gemeinsam Efforten, fir dës Situatioun an de Grëff ze kréien", huet den Abbass weider gesot.
Hugging Face hat d'Attack an der leschter Woch bekannt ginn, ma dobäi net OpenAI erwäänt. "Dëse Fall huet sech an engem wichtege Punkt vun allem ënnerscheet, mat deem mir bis elo ze dinn haten: E gouf vun Ufank bis Enn vun engem autonome KI-Agentesystem gesteiert a mir hunn e gréisstendeels mat eiser eegener KI opgedeckt an analyséiert, huet d'Plattform erkläert.
En vue vun der Aart a Weis vum Ugrëff hätt d'Firma de Verdacht gehat, datt dës aus engem weltwäit féierende KI-Labo komm war, huet den Hugging-Face-Chef Clément Delangue um Onlinedéngscht X erkläert an huet mat Bléck op OpenAI weider gesot: "Mir si fest dovun iwwerzeegt, datt vun hirer Säit keng béisaarteg Ofsicht virlouch." Et wier "erstaunlech, datt alles dat autonom ofgelaf ass".
