Desinformation richtet sich gezielt an KI-Agenten

Schon 250 Dokumente mit irreführendem Inhalt reichen aus, um einem Sprachmodell diese Schwachstelle einzupflanzen. Ein neuer Artikel des World Economic Forum (WEF) fasst mehrere Studien zusammen und zeigt: Desinformation betrifft nicht mehr nur Menschen, sondern kann gezielt auch an KI-Agenten gerichtet werden. Wie real diese Gefahr ist, zeigt eine USC-Studie, in der sich 500 unabhängige KI-Agenten eigenständig zu einer Propaganda-Kampagne zusammengeschlossen haben, um in einer simulierten Social-Media-Umgebung einen bestimmten politischen Kandidaten zu unterstützen.