Internetsäite versichen, mat KI-generéierte Biller, de Leit hir Empathie ze gewannen

De Prinzip vun dësen Arnaquen ass net nei, awer dank Kënschtlecher Intelligenz kënne se séier an a groussem Ëmfang entwéckelt ginn, wéi Experte géintiwwer der AFP erkläert hunn. Dës ruffen Internetbenotzer dozou op, wuechtsam ze sinn.

"Kand vun 1 Joer, dat Gittar spillt a séngt", "Hond aus Sand" oder Vëlo aus recycléierten "Eeweeläffelen", dee vu klenge Jonge gebaut gouf, Objeten, déi vu "Bome" gestréckt a gebitzt goufen, lackeleg Bakwueren...

Dës angeeblech Realisatiounen, déi mat Biller, déi duerch Kënschtlech Intelligenz (KI) genéiert goufen, illustréiert ginn, iwwerschwemmen zënter Méint Facebook-Säiten a -Gruppen a wëllen d'Internetbenotzer gär dozou bréngen, dës ze deelen, drop ze reagéieren oder se ze kommentéieren. 

Op de Säiten, déi dës Geschichte verbreede an iwwer Zéng- bis Honnertdausend Mol geliked goufen, fanne sech och eng Rëtsch Bäiträg vu "Gebuertsdeeg", déi "ouni Frënn" gefeiert ginn, oder Bäiträg iwwer d'Laangliewegkeet vu Koppelen, déi "zënter 60 Joer" - oder souguer nach méi laang - bestuet sinn oder Bäiträg, déi e Manktem un Unerkennung fir bestëmmt Beruffer bekloen, dorënner Baueren, jonk Schéiferinnen oder Polizistinnen. Alleguer fuerderen d'Notzer dozou op, op dës angeeblech Geschichten ze reagéieren, andeem si se kommentéieren oder deelen.

Awer e puer Detailer op den Illustratioune verroden, dass bei dëse Fotoe KI agesat gouf: e Bëbee-Gitarrist mat véier Fangeren, en Transparent, op deem "Happy Birthday" falsch geschriwwen ass, en Alter, dee souguer dee vun der eelster Fra vun der Mënschheet iwwertrëfft, falsch duergestallt Proportiounen oder d'Kleedung vun zwou niewentenee stoende Persounen, wou de Stoff schéngt aneneen iwwerzegoen.

D'Fortschrëtter vu KI bei der Hierstellung vun ëmmer méi realistesche Biller sinn zwar séier a maachen d'Erkennen dovunner méi komplex, mee et gëtt e puer Hiweiser, un deenen een erkenne kann, dass et sech net ëm richteg Fotoen handelt (Link hei archivéiert).

D'AFP huet eng Dose Säiten analyséiert, déi sou Contenue verbreeden, déi sech op erfonnt Geschichte stäipen a vu KI illustréiert ginn. Experte warnen, dass dës Säite fir méi oder manner elaboréiert Arnaquë kënne genotzt ginn, déi dann och anungslos Notzer kéinten treffen.

Empathie fir Engagement ze kréien 

D'Gemeinsamkeet vun dëse Publikatioune besteet doran, dass se mat de Gefiller vun den Notzer wëlle spillen, fir en Engagement ze kréien. "Alles, wat emotional ass, produzéiert méi impulsiv a spontan Reaktioune wéi all Publikatioun, bei där ee méi iwwerleeë muss. Wann Dir also spontan Klicks kréie wëllt, ass et besser, mat Emotiounen ze spillen", huet d'Expertin fir Cybersécherheet Corinne Henin den 13. November géintiwwer der franséischer Presse-Agence (AFP) erkläert.

Och wann et u sech net schiedlech ass, se ze kommentéieren, kënnen d'Persounen hannert dëse Säite béiswëlleg Absichten hunn, déi sech spéider weise kënnen, warnen déi befrot Experten.

"Am Moment ass déi warscheinlechst Hypothees, dass dës Konte versichen, d'Unzuel vun hiren Abonnenten ze maximiséieren, fir se da fir aner Zwecker ze verkafen", huet de Jean-Jacques Latour, Direkter vum Departement fir Cybersécherheetsexpertis vun der Plattform Cybermalveillance.gouv (Link hei archivéiert), géintiwwer der AFP den 13. November 2024 gemengt.

Dat heescht, dass dës Säiten, nodeems se iwwer Zéngdausend Likes a Reaktioune gesammelt hunn - wat hinnen nieft dem grousse Public och eng gewëss Legitimitéit gëtt - "ënner engem aneren Numm kéinten zeréckkommen", mam Zil, komplett aner Contenuen ze deelen, déi politesch orientéiert sinn oder kommerziellen Zwecker déngen, wéi zum Beispill "d'Ubidde vun Investitiounen a Kryptowärungen oder Änleches", huet hie preziséiert.

An de Public vun dëse Säite limitéiert sech net strikt op d'Abonnenten. Wann eng Persoun e Bäitrag vun enger vun dëse Säiten och just eng Kéier liked, deelt oder kommentéiert, kann den Notzer opgrond vun den Algorithmen, déi Contenue virschloen, déi dem Contenu, op deen hie reagéiert huet, änlech sinn, "quasi géint säi Wëllen en Abonnement fir dësen Account kréien, an et ginn him aner Konte mat ëmmer méi coole Biller oder ëmmer méi sensationelle Saache virgeschloen, déi hie méiglecherweis suivéiere wëll", warnt den Expert.

E puer vun dëse Säite weisen och Spuere vun enger op d'mannst deelweis koordinéierter Operatioun op. Ofgesi vun der Tatsaach, dass déi meescht Säiten a kuerzen Ofstänn änlech Contenuen a Biller publizéieren, huet d'AFP eng Dose Säiten identifizéiert, déi vun enger eenzeger Adress aus geréiert ginn, bei där et sech ëm e Gebai zu Gap an der franséischer Regioun Provence-Alpes-Côte d'Azur handelt. D'Administrateure vun dëse Säite ginn awer un, dass si sech an Armenien befannen - dat soen emol d'Donnéeën, déi op Facebook disponibel sinn.

En Deel vun dëse Säite verweist och op Internetsäiten, déi Artikelen iwwer Sensatiounsgeschichte verbreeden, op deenen iwwerall Reklamm leeft a wou d'Presentatioune vun der Säit änlech sinn. E puer schéngen och vun Armenien aus bedriwwen ze ginn, wéi aus den Identifikatiounsnummere vun dëse Säiten ervirgeet, déi ënner anerem op Who.is opruffbar sinn.

D'Administrateure vun anere Säiten, déi Biller verbreeden, ginn ausserdeem un, an anere Länner ze sëtzen, dorënner Marokko, d'USA oder Kanada.

D'Presenz vun dësen Administrateuren a Länner wéi Marokko oder Armenien, wou "ee weess, dass et franséischsproocheg Main-d'oeuvre gëtt, déi méi bëlleg ass ewéi franséisch Aarbechter, an déi an der Lag sinn, dës Saachen ze maachen, änlech wéi Hotlines a Callcenteren", weist, dass sech den Asaz vu Säiten, déi Klicks solle sammelen, professionaliséiert huet", sou den Expert fir Cybersécherheet Thibaut Henin géintiwwer der AFP den 13. November.

Wärend e puer vun hinnen exklusiv KI-generéiert Biller verbreeden, ouni en anert Zil ze verfollegen, verbreeden anerer och Arnaquen, déi d'AFP an der Vergaangenheet ënnersicht huet. Dozou gehéieren angeeblech Autosaccidenter a Biller vu blesséierten Déieren, déi sech och op d'Empathie vun den Internetbenotzer stäipen, fir si op Säiten ze leeden, déi Geld vun hinnen erpresse sollen, oder déi den Text vun de Bäiträg änneren, soubal dës massiv weiderverbreet goufen, fir da komplett aner Contenuen ze verbreeden.

D'Weiderleede vun Notzer vun enger Internetsäit op eng Facebook-Säit oder ëmgedréint ass eng Technik, fir d'Siichtbarkeet an de Ranking vun der Säit klammen ze loossen, déi am Marketing zënter 20 Joer benotzt géif, wéi den Thibaut Henin erkläert huet.

En Deel vun de Säiten huet och direkt op Facebook Reklamme geschalt, wéi an der Bibliothéik fir Reklamme vu Meta (Mammegesellschaft vu Facebook) ze gesinn ass, an anerer verweisen direkt op Internetsäiten, déi hirersäits Reklammen hosten.

Arnaquen duerch Gefiller a Bindungen 

An de Kommentaren ënner dëse Publikatioune fanne sech och ëmmer nees Noriichte vu Profiller, an deenen d'Notzer, déi d'Biller bewonneren, gebiede ginn, eng Frëndschaftsufro unzehuelen. Ënner engem Bäitrag mat e puer honnert Kommentare fanne sech dacks e puer Dosen Äntwerte mat identeschem Text, an deenen de Persounen ugebuede gëtt, sech privat ze ënnerhalen.

Dës Manéier vun Noriichten ass typesch fir Profiller vu Persoune mat béiswëllegen Absichten, sougenannte "Brouteurs" (Lëtz.: "Jéimerten"), deenen hiert Zil et ass, anungslosen Internetbenotzer méi no ze kommen, andeems si mat hinne falsch Frëndschaften opbauen, fir hinne Geld opzeknäppen (Link hei archivéiert).

Et ass awer "schwéier ze determinéieren, wat op e 'Jéimerer' zoutrëfft, deen dës Konten fonnt huet, op deenen et Leit mat Empathie gëtt, fir tatsächlech ze versichen, Affer ze kontaktéieren, fir Escroquerie mat Gefiller ze begoen, oder ob dës Profiller vun de selwechten Acteuren animéiert ginn, déi och d'Säiten erstellen", huet de Jean-Jacques Latour, Direkter vum Departement fir Cybersécherheetsexpertis bei der Plattform Cybermalveillance.gouv (Link hei archivéiert), de 14. November géintiwwer der AFP betount.

"Dat ass d'Zil vum übleche Phishing, dat heescht, wann een emotional Lienen zu de Mënschen opbaut, ass et duerno méi einfach, hinne Geld ofzeknäppen", huet den Thibaut Henin resuméiert.

Sou Versich kënnen och dozou déngen, falsch Profiller wäisszewäschen, andeems se mat reelle Persoune befrënnt ginn. "D'Plattforme versichen, d'Bots sou gutt et geet ze ënnerdrécken. Dat féiert dozou, dass e puer Bots absichtlech falsch Bezéiungen an Netzwierker opbauen. Se fänken un, sech mat Mënschen ze ënnerhalen an e 'Frëndschaftsnetzwierk' opzebauen. Op dës Manéier ass et fir Facebook méi schwiereg, dës Bots, déi déi selwecht Bezéiungen a Contenue wéi e Mënsch hunn, statistesch ze erkennen", huet den Expert erkläert.

Dowéinst kann esou en Apparat och eng Zwou-Stufen-Technik ëmgoen: "Fir d'éischt erstellt Dir e puer tréineräich Bäiträg. Duerno sammelt Dir Kommentaren, Dir sammelt Verbindungen op der Plattform. A vläicht kéint dëst Botnetz a sechs Méint oder engem Joer vun enger auslännescher Muecht aktivéiert ginn, fir domat unzefänken, geziilt Fakenews ze publizéieren", huet hie weider erkläert.

KI mécht et méi einfach, sou Säiten anzesetzen

Zwar gëtt et scho laang Versich vun Arnaquen, déi op d'Gefiller vun Internetbenotzer ofzilen, mee d'Verbreedung vun esou Publikatioune gëtt duerch KI méi einfach, huet d'Corinne Henin betount: "Kënschtlech Intelligenz ze notzen, mécht et einfach, vill Contenuen ze generéieren. Dir wäert net onbedéngt einfach sou eng 'super Aarbecht' fannen. Wann Dir ausserdeem e Bild benotzt, dat am Internet schonn am Ëmlaf ass, riskéiert Dir, Iech der Persoun auszesetzen, déi et kreéiert huet".

"Wann Dir e Bild vun eppes aus Holz maache wëllt, musst Dir e Bild mat eppes aus Holz hierstellen oder ganz gutt a Saache Photoshop sinn. Awer bei KI schreift een einfach e Befeel an huet sou vill Biller, wéi ee wëll. Et gëtt eng industriell Produktioun, déi mir fréier net haten", huet den Thibaut Henin bäigefüügt.

Ausserdeem huet hie betount, dass "een d'Modeller mat de Biller, déi funktionéieren, trainéiere kann". "D'KI ass mat all de Beispiller, déi se huet, kapabel, eppes hierzestellen, dat éischter dem Kanon vum Sozialen Netzwierk entsprécht. D'KI-Biller si per Definitioun an deem Sënn 'méi schéin', dass se dem Kano' vun deem, wat als méi schéi gëllt, entsprieche wäerten."

Dat féiert senger Meenung no dozou, "dass et méi rentabel ass, fir eng KI ze bezuelen, déi kapabel ass, dat, wat funktionéiert, mat manner Effort ze reproduzéieren, amplaz e Grafiker, deen hofft, dass hien eng gutt Hand huet, fir dass et funktionéiert, ze bezuelen. Zemools wat den Opwand an de Retour vun der Investitioun ugeet."

D'Bäiträg, déi op Facebook anscheinend am beschte funktionéieren, fir dacks gedeelt ze ginn, bezéie sech dacks op Geschichten, déi mat traditionelle Beruffer ze dinn hunn an nostalgesch Messagë vermëttelen. Dës Theeme kéinte besonnesch e méi ale Public uschwätzen, deen op dësem Sozialen Netzwierk méi staark vertrueden ass, huet den Thibaut Henin och betount.

An de leschten Deeg, wéi Baueren an enger Rei europäesche Länner géint e geplangt Fräihandelsofkommes tëscht der EU an de latäinamerikanesche Mercosur-Länner demonstréiert hunn, goufen a ville Bäiträg och Biller vu Mënsche gewisen, déi houfreg op hir landwirtschaftlech Produktioun waren (Link hei archivéiert).

An der aktueller Form sinn dës Säiten a Publikatiounen net illegal. A souguer wann ee beweise kéint, dass se Arnaquen erliichteren, wär et schwiereg, de rechtleche Kader, an dee se fale kéinten, genee ze bestëmmen.

A ce stade "befënnt ee sech an engem Flou an an der schwéierer Situatioun, d'Auswierkunge vum Contenu ze saiséieren a souguer ze tracéieren", huet d'Juliette Sénéchal, Professesch fir Privatrecht op der Université de Lille, déi och fir den Institut national de recherche en informatique (INRIA) schafft (Link hei archivéiert), analyséiert.

Doriwwer eraus gi Sozial Netzwierker a Kënschtlech Intelligenz duerch verschidde Virschrëfte gereegelt, déi am Sträitfall  kéinten erugezu ginn, wéi d'Expertin de 14. November géintiwwer der AFP ausgeféiert huet. "Dës Situatioun ëmfaasst eng Rei technesch Bausteng, well et gëtt de Baustee "KI" an da gëtt et de Baustee "Soziaalt Netzwierk" mat senge Recommandatiounssystemer, sengen interne Systemer fir zilgeriicht Reklamm. Et kann also entweeder ënner d'KI-Reglementatioun oder ënner d'Reglement iwwer digital Déngschtleeschtungen, den Digital Services Act, falen. Dat ass déi aktuell Komplexitéit: Mir hunn Texter, déi siloaarteg sinn a schlussendlech just en Deel vum Problem erfaassen" (Link hei archivéiert).

"Hei besteet de Problem a senger Gesamtheet doran, dass mir fir d'éischt e Contenu hunn, dee vun enger KI erstallt gouf. Dann hu mir e Contenu, dee vun engem Sozialen Netzwierk verbreet gëtt. An dann hu mir iwwer dëse Contenu, dee vum Sozialen Netzwierk verbreet gëtt, potenziell Links zu anere Contenuen oder aneren Internetsäiten, déi genee geholl e falscht Verhalen, eng Manipulatioun oder eng deloyal Geschäftspraktik bewierke kéinten, zum Beispill sech operéieren ze loossen", sot d'Expertin ofschléissend.

Dobäi kënnt, dass d'EU-Gesetzer méiglecherweis net ëmmer applizéierbar sinn, well en Deel vun de Säiten anscheinend a Länner baussent der Europäescher Unioun bedriwwe gëtt.

"Béiswëlleg" Fäll am Zesummenhang mat KI

An hirem Rapport iwwer Cyber-Menacë fir d'Joer 2023 huet d'Plattform "Cybermalveillance" dorop higewisen, dass zwar "kee Fall vu Béiswëllegkeet, dee formell op kënschtlech Intelligenz zeréckverfollegt ka ginn", bis dohi  "gezielt konnt ginn". Awer "wéi all technologesch Entwécklung kënnen sech d'Méiglechkeeten, déi sech duerch Kënschtlech Intelligenz erginn, zwangsleefeg net der Opmierksamkeet vu Cyberkriminellen entzéien" (Link hei archivéiert).

De Jean-Jacques Latour huet den 13. November erkläert, dass et zënter Ufank 2024 a Frankräich eng ganz Rei vun Deepfake-Fäll (Videoen oder Enregistrementer, bei deene Persoune mat KI dozou bruecht ginn, Saachen ze soen oder ze maachen, déi si net gesot oder gemaach hunn, Um. v. d. Red.) ginn hätt, déi mat KI generéiert goufen".

Dozou gehéieren Arnaquen, déi Reklamm fir Kryptowärunge maachen, oder Pseudo-Redaktiounen, déi d'Identitéit vu Medien oder Prominenten unhuelen. D'AFP huet dozou och schonn eppes geschriwwen.

D'AFP hat am Oktober 2024 och schonn iwwer den Trend bericht, historesch Evenementer mat Kënschtlecher Intelligenz duerzestellen a se als Archivbiller vun dësen Evenementer ze presentéieren (Link hei archivéiert).

Zesummefaassend léisst sech soen: "Wann Dir den Drang verspiert, eppes fir wouer ze huelen, zum Beispill eng lackeleg Mëtsch oder eng aner Kreatioun, dann ass et dacks net wouer. Op alle Fall ass et besser, doriwwer nozedenken, éier een eppes deelt", huet den Thibaut Henin erkläert.

"Et sollt een op kee Fall zécken, d'Informatiounen ze vergläichen a selwer ze iwwerpréiwen. Wann de Kont vun engem, deen eng bekannt Perséinlechkeet soll sinn, dräi Abonnenten huet, gëtt et e Problem", huet de Jean-Jacques Latour ergänzt.

Mee genee hei kënnen och Schwindler vu Konte profitéieren, déi vill KI-Biller online setzen. "Wann een e Kont mat honnertdausende vun Abonnenten erstellt, andeem e Fotoe vu KI-Kaze publizéiert, an en dann an e Kont vun enger bekannter Persoun ëmwandelt, ass et méi glafwierdeg an d'Leit kënnen an d'Fal tappen", warnt den Expert.

"Duerch d'Opkomme vu KI muss een also ëmsou méi wuechtsam sinn", huet hie resuméiert.

Dësen AFP-Artikel gouf vun RTL op Lëtzebuergesch iwwersat.