Das Science Policy Forum schlägt Alarm: Die nächste Welle der Einflussnahme durch KI wird nicht mehr wie plumpe „Copy-Paste-Bots“ daherkommen. Stattdessen könnten wir es mit cleveren KI-Gemeinschaften zu tun haben – Schwärme von digitalen Persönlichkeiten, die blitzschnell reagieren, sich in Gruppen einschleichen und massenhaft den Eindruck eines öffentlichen Konsenses hervorrufen.
Die rasanten Entwicklungen in der künstlichen Intelligenz (KI) wie große Sprachmodelle (LLMs) und autonome Agenten ermöglichen es, Einflusskampagnen in bisher ungekanntem Umfang und mit beispielloser Präzision durchzuführen.
Generative Tools können die Propagandaausbeute steigern, ohne ungläubigwürdig zu werden, und kostengünstig Falschmeldungen erstellen, die als menschlicher bewertet werden als solche, die von Menschen verfasst wurden.
Techniken zur Verfeinerung der KI-Argumentation, wie z. B. Chain-of-Thought-Prompting, können verwendet werden, um überzeugendere Falschmeldungen zu generieren. Durch diese Fähigkeiten entsteht eine disruptive Bedrohung: Schwärme von kollaborativen, bösartigen KI-Agenten.
Durch die Verschmelzung von LLM-Denkweisen mit Multiagent-Architekturen sind diese Systeme in der Lage, sich autonom zu koordinieren, in Gemeinschaften einzudringen und effizient einen Konsens herzustellen. Indem sie die sozialen Dynamiken des Menschen adaptiv nachahmen, bedrohen sie die Demokratie.
Die Autorinnen und Autoren plädieren für Abwehrmaßnahmen, welche das koordinierte Verhalten sowie die Herkunft von Inhalten nachverfolgen.
- Hierzu zählen die Erkennung statistisch unwahrscheinlicher Koordinierung mittels transparenter Audits, die Durchführung von Stresstests für Social-Media-Plattformen durch Simulationen, das Angebot von Verifikationsmöglichkeiten unter Wahrung der Privatsphäre.
- Und der Austausch von Beweismitteln über ein verteiltes Observatorium zur Überwachung des Einflusses Künstlicher Intelligenz.
- Zudem sollen Anreize verringert werden, etwa die Monetarisierung unechter Interaktionen zu begrenzen und den Haftungsumfang zu erweitern.
Quelle: https://www.science.org/doi/10.1126/science.adz1697
Titelbild:Image by Frank Rietsch from Pixabay
