D'lescht Woch huet de 27 Joer ale KI-Fuerscher Jacob Coxon bei der grousser KI-Entreprise Anthropic gekënnegt, mam Argument, datt déi ganz Industrie irresponsabel géif handelen. Et géif ee sech ze vill op d'Kompetitioun ënnertenee konzentréieren, amplaz op d'Sécherheet. Hie wéilt net méi Deel vun esou enger Industrie sinn, déi eist Liewen op d'Spill setzt.
Och d'Tech-Bosse vun de groussen Entreprise wéi Anthropic, déi hannert der KI Claude stécht, oder och OpenAI, déi ënnert anerem ChatGPT entwéckelt huet, ruffen dozou op, d'KI-Entwécklung ofzebremsen. Wéi de Chef vun Anthropic, den Dario Amodei, zum Beispill iwwer de Weekend uginn huet, hätt hie seng Meenung zu Sécherheetsmesurë fir d'KI geännert. Bis elo wier hien iwwerzeegt gewiescht, datt et géif duergoen, wann d'Entreprisë selwer an eege Sécherheetssystemer géifen investéieren. Elo wier hien anerer Meenung: Et bräicht ee concertéierten Effort vun der ganzer Branche, fir esou genuch Sputt ze hunn, fir an d'Risikopreventioun z'investéieren. Den Dario Amodei krut online Zousproch vu groussen Nimm wéi dem Elon Musk, dem OpenAI-Chef Sam Altman oder och nach Google.
D'Technologie huet an de leschte Méint enorm Spréng gemaach, dofir sinn d'Warnungen aus de KI-Kreesser och an de leschte Méint ëmmer méi heefeg ginn. Wat virun allem Suerge bereet, ass déi méi selbststänneg Form vun der KI, sougenannte KI-Agenten. Dës sinn eng Form vun der kënschtlecher Intelligenz, déi selbststänneg d'Aufgabe vun den Notzer soll ausféieren, wéi zum Beispill d'Verschécke vun E-Mailen oder d'Buche vu Flich.
Dofir muss awer net just op sensibel Donnéeën zréckgegraff ginn, och ass et elo schonn e puer Mol virkomm, datt gewësse KI-Agente Saache gemaach hunn, déi se net ugestallt gi sinn. Am schlëmmste Fall kéint d'KI sech a kritesch Infrastrukture wéi Stroumnetzer oder Datenzentren eran hacken an de Fuerscher entglëtschen.
En Donneschdeg huet OpenAI sechs nei Tëschefäll public gemaach, an deenen d'KI sech net esou verhalen hat, wéi erwaart. Beispillsweis hätt d'KI eege Quellen an den Internet gestallt, fir déi da selwer ze zitéieren. D'KI-Modeller wieren och spontan aus hirem isoléierten Ëmfeld ausgebrach an hätte vu sech aus sech Zougang op gewëssen Internetsäite verschaf.
D'Reaktioune fale gemëscht aus: Ugefaange mam US-President Trump. Dësen huet d'Warnungen als Verschwörungstheorien zréckgewisen. Den Ament géifen d'USA a Saache KI viru China stoen an dëse Virsprong sollt een net op d'Spill setzen. De Meta-Chef Mark Zuckerberg ass der selwechter Meenung.
Op der anerer Säit steet zum Beispill Däitschland. D'Regierung huet uginn, et géif een d'Warnunge ganz eescht huelen a sech fir Léisungen op multilateralem Plang staark maachen. Dat héchste Sécherheetsgremium an Däitschland, den nationale Sécherheetsrot, hätt sech dann och scho mam Sujet beschäftegt. D'Regierung zu Beijing huet dann och uginn, et wier een oppe fir eenheetlech Reegelen.
Wichteg ass awer och ze soen: Ze vill Panik soll een awer och net maachen. Datt déi ganz Mënschheet vu KI kéint ausgeläscht ginn, ass dann awer éischter onwarscheinlech, wéi vill Experten preziséieren. Mee d'Regierunge sollte sech weltwäit méi eeschthaft op Zenarie mat schwéiere Cyberugrëff oder esou guer Bio-Waffen duerch d'KI preparéieren.
