Microsoft, Google, OpenAI, Meta, Amazon, X und mehr verpflichten sich, KI-Wahl-Deepfakes zu bekämpfen

Dem Einsatz generativer KI-Apps und -Dienste zur Erstellung von Deepfake-Bildern und -Informationen wird immer mehr Aufmerksamkeit geschenkt. Das spitzte sich sicherlich vor ein paar Wochen zu, als KI-erstellte Bilder der Popsängerin Taylor Swift das soziale Netzwerk X überschwemmten . Einige Berichte behaupten, die Bilder seien vom KI-Bildgenerator Designer von Microsoft erstellt worden .

Da 2024 auch ein Wahljahr für das Amt des US-Präsidenten ist, besteht noch größere Sorge, dass KI-Deepfake-Bilder verwendet werden könnten, um die Stimmen bei dieser und anderen Wahlen negativ zu beeinflussen. Heute gab eine große Anzahl von Technologieunternehmen bekannt, dass sie sich an eine neue Vereinbarung halten werden, die besagt, dass sie ihre Ressourcen einsetzen werden, um den Einsatz von KI bei betrügerischen Wahlbemühungen zu bekämpfen.

Die Vereinbarung, die auf der Münchner Sicherheitskonferenz bekannt gegeben wurde, trägt den Namen AI Elections Accord . Die Unternehmen, die dieser Vereinbarung derzeit zustimmen, sind:

• Adobe
• Amazonas
• Anthropisch
• Arm
• ElfLabs
• Google
• IBM
• Flexions-KI
• LinkedIn
• McAfee
• Meta
• Microsoft
• Verwenden
• OpenAI
• Snap Inc.
• Stabilitäts-KI
• Tick ​​Tack
• Trend Micro
• Wahres Bild
• X

In der Pressemitteilung (im PDF-Format), in der das Abkommen angekündigt wird, heißt es, dass die oben genannten Unternehmen zugestimmt haben, diese Verpflichtungen zur Bekämpfung von Deepfake-Wahlbemühungen einzuhalten:

• Entwicklung und Implementierung von Technologien zur Minderung von Risiken im Zusammenhang mit irreführenden KI-Wahlinhalten, gegebenenfalls einschließlich Open-Source-Tools
• Bewertung von Modellen im Rahmen dieser Vereinbarung, um die Risiken zu verstehen, die sie in Bezug auf irreführende KI-Wahlinhalte darstellen können
• Sie möchten die Verbreitung dieser Inhalte auf ihren Plattformen ermitteln
• Sie versuchen, diese auf ihren Plattformen erkannten Inhalte angemessen zu behandeln
• Förderung der branchenübergreifenden Widerstandsfähigkeit gegenüber irreführenden KI-Wahlinhalten
• Der Öffentlichkeit Transparenz darüber verschaffen, wie das Unternehmen damit umgeht
• Fortsetzung der Zusammenarbeit mit einer Vielzahl globaler zivilgesellschaftlicher Organisationen und Wissenschaftlern
• Unterstützung von Bemühungen zur Förderung des öffentlichen Bewusstseins, der Medienkompetenz und der Widerstandsfähigkeit der gesamten Gesellschaft

Zu den in der Pressemitteilung zitierten Führungskräften gehörte auch Microsoft-Präsident Brad Smith. Er erklärte:

Da die Gesellschaft die Vorteile der KI annimmt, haben wir die Verantwortung, dafür zu sorgen, dass diese Instrumente bei Wahlen nicht als Waffe eingesetzt werden. KI hat keinen Wahlbetrug hervorgerufen, aber wir müssen sicherstellen, dass sie nicht zum Gedeihen von Wahlbetrug beiträgt.

Ein Beispiel für Wahl-Deepfakes ereignete sich vor einigen Wochen, als Robocalls mit einer KI-generierten Stimme von US-Präsident Joe Biden die Anrufer aufforderten, bei den Vorwahlen in New Hampshire nicht zu wählen. Später stellte sich heraus, dass die Anrufe von einem in Texas ansässigen Unternehmen erstellt wurden .