D'Fuerderung, d'Entwécklung vun den neien ëmmer méi performante KI-Modeller bewosst ze bremsen, kënnt antëscht aus der Branche selwer. Den Anthropic-Chef Dario Amodei huet e Plang presentéiert, mat deem d'Sécherheetsmesurë méi Zäit solle kréien, fir mam technesche Fortschrëtt matzekommen.
Den Amodei wëll ënner anerem, datt onofhängeg Experte permanenten Zougang zu de grousse KI-Entreprisë kréien, fir d'Sécherheetsmesuren an d'Verhale vun de Modeller ze kontrolléieren. Och d'Entreprisë solle sech op gemeinsam Standarde verstännegen.
Den OpenAI-Chef Sam Altman huet sech der Iddi ugeschloss. Och OpenAI wëll onofhängegen Experten Zougang ginn.
Hannergrond sinn net nëmmen theoretesch Zenarien iwwer eng méiglech Superintelligenz. An de leschte Méint gouf et bei Sécherheetstester Incidenter, bei deene KI-Modeller op reell Systemer um Internet zougegraff hunn.
Bei engem Test vun OpenAI huet e sougenannte KI-Agent eng Schwaachstell ausgenotzt, fir aus engem isoléierten Testëmfeld erauszekommen. Duerno huet en op Systemer vun der KI-Plattform Hugging Face zougegraff.
Anthropic huet bei enger interner Iwwerpréiwung dräi weider Tëschefäll fonnt. D'Fäll weisen, datt KI-Agenten, déi Aufgabe relativ autonom ausféieren, Weeër kënne wielen, déi vun hiren Entwéckler net virgesi waren.
Besonnesch drastesch warnt de Jacob Coxon. Hien huet dräi Joer an der KI-Fuerschung geschafft, bei OpenAI an duerno bei Anthropic. Uganks September huet hie gekënnegt an deenen zwou Entreprisë reprochéiert, net responsabel genuch mat der Entwécklung vun ëmmer méi staarke Modeller ëmzegoen.
De Coxon vergläicht eng méiglech Superintelligenz mat enger "friemer ausserierdescher Intelligenz", déi de Mënsch net komplett versteet. Dat wier "zimmlech erschreckend – och ouni e konkrete Katastrophenzenario".
Datt esou eng Superintelligenz kuerzfristeg entsteet, ass awer ëmstridden. De Vishal Misra, Professer fir Informatik op der Columbia University, hält d'Iddi, datt d'KI-Systemer sech séier selwer verbesseren a weiderentwéckelen, fir iwwerdriwwen. Technesch a praktesch Limitte géifen esou eng Entwécklung bremsen.
Och hie begréisst awer méi extern Kontroll a plädéiert dofir, Cybersecurity-Experten an d'KI-Firmen anzebannen.
An den USA ass d'Fro och e politescht Sträitthema. Den US-President Donald Trump bezeechent d'Warnunge virun enger KI, déi d'Mënschheet zerstéiere kéint, als "Hoax", also als Witz. Hien argumentéiert, datt méi Regulatioun oder eng Brems bei der Entwécklung virun allem China en Avantage géif verschafen.
D'EU-Kommissioun setzt dogéint op déi schonn decidéiert Regulatioun. Si verweist op den AI Act a betount, datt d'Entreprisë selwer mussen noweisen, datt hir Servicer sécher sinn.
D'Debatt geet domat ëmmer méi ëm déi konkret Fro, wéi vill Autonomie KI-Systemer kréien, wéi hir Aktivitéiten iwwerwaacht ginn a wéi séier déi technesch Entwécklung virugoe soll.
