NATO-Studie warnt vor KI-gestützter Desinformation im großen Maßstab

KI-Systeme können immer besser menschliches Verhalten nachahmen, realistische Persönlichkeiten annehmen und sich nahtlos an echten Gesprächen beteiligen. Vor solchen LLM-gestützten “Desinformationsmaschinen” und deren Einfluss auf demokratische Diskurse und Prozesse warnt das NATO Strategic Communications Centre of Excellence in seiner neuen Studie. In der Studie wurden acht bekannte LLMs getestet, wovon alle acht anfällig für Missbrauch waren. Am besten schnitten die Modelle Claude und ChatGPT ab, das unzensierte LLM “Huihui AI” mit Abstand am schlechtesten. Bestehende Regulierung und Schutzmechanismen sind für diese Entwicklung laut der Studie nicht ausreichend gewappnet.