Auf Mastodon ansehen
Mit Freier Software und Freier Gesellschaft hat dieser Artikel wenig zu tun. Doch beim «Wort zum Sonntag» erlauben wir uns eine gewisse künstlerische Freiheit. Bei mir stauen sich über die Zeit gewisse Themen auf, die ich zum Wochenende gerne niederschreibe, weil sie dann raus sind und mich die Meinung der Community interessiert.
Was bedeutet "Fear Appeal"? Stellt euch vor, ihr habt ein tolles Produkt erfunden, z. B. eine Zeitmaschine, mit der man in die Vergangenheit reisen kann (Achtung: Grossvaterparadoxon). Um dieses Produkt zu bewerben, kommuniziert ihr nicht etwa die positiven Eigenschaften, sondern das Gegenteil. Denn, was verboten ist, erregt Aufmerksamkeit und schafft den Drang, es dennoch auszuprobieren. Diesen Effekt kennen wir alle aus unseren Teenager-Tagen. Was verboten ist oder Furcht erregt, schafft einen besonderen Anreiz.
Hier ist ein Beispiel für "Fear Appeal Marketing":
Zeit ist kein Spielzeug. Wähle mit Bedacht. Die Zeitmaschine – für alle, die Verantwortung für ihre Entscheidungen in der Vergangenheit übernehmen möchten. Gestalte jetzt deine Zukunft. Wird es dich danach noch geben?
Nun gut, dieses Beispiel ist nichts im Vergleich zu dem, was die KI-Buden seit einigen Jahren hinaus hauen.
- OpenAI: "GPT-4 zeigt riskante emergente Fähigkeiten"
- Anthropic: "Wake up to the risks of AI, they are almost here"
- Anthropic: "AI models are displaying early warning signs"
- Anthropic: "10–25 % Chance auf katastrophalen Schaden"
- OpenAI u. a.: "Mehr als 1000 Experten fordern KI-Bremsmechanismus"
- OpenAI: "KI-Modell war tagelang unbemerkt auf Hacker-Tour"
- und so weiter
Typische Marketinglogik hinter dem Fear Appeal
Die Kommunikationsstrategie folgt häufig diesem Muster:
- Gefahr benennen: "Diese KI könnte manipulieren, täuschen oder Cyberangriffe ermöglichen."
- Leistungsfähigkeit implizieren: "Dafür müsste sie aussergewöhnlich intelligent sein."
- Vertrauen erzeugen: "Wir haben Sicherheitsmechanismen, Evaluierungen und Frameworks entwickelt."
Dadurch entsteht eine doppelte Botschaft: "Unsere KI ist gefährlich mächtig. Deshalb sollten Sie uns vertrauen." Aus Marketingsicht ist das besonders interessant, weil die Warnung selbst zu einem Leistungsversprechen wird.
In der Forschung wird dieses Phänomen als "AI Safety Theatre" oder "doomer marketing" bezeichnet. Sicherheitswarnungen dienen nicht nur dem Risikomanagement, sondern signalisieren Investoren, Regulatoren und Medien die aussergewöhnliche Leistungsfähigkeit der eigenen Modelle.
Schönes Wochenende!
Quellen:
https://cdn.openai.com/papers/gpt-4-system-card.pdf
