Wie KI-Inhalte Krisen anheizen

In Krisen verkürzt sich die Zeit für fundierte Recherchen dramatisch, während sich Desinformation oft schon binnen Stunden millionenfach verbreitet. Das Alan Turing Institute hat mit dem AI Disinformation Incident Repository eine Datenbank zu KI-gestützter Desinformation in Krisenzeiten zu Themen wie Terrorismus, Naturkatastrophen und Kriegen veröffentlicht. Ausgewertet wurden 61 Vorfälle aus 21 Ländern. In 75 % der Fälle ging es um KI-generierte Inhalte, die Ereignisse verfälschten oder Gewalt anheizten. Von diesen Inhalten wiederum waren mehr als die Hälfte täuschend echte Deepfakes mit Bild-, Video- oder Audiomaterial. Gefordert werden bessere Herkunftsnachweise für digitale Inhalte, etwa über Wasserzeichen, schnellere Plattformmoderation und mehr Ressourcen für regionale Faktenchecker.