Auf Mastodon ansehen
Mit Freier Software und Freier Gesellschaft hat dieser Artikel wenig zu tun. Doch beim «Wort zum Sonntag» erlauben wir uns eine gewisse künstlerische Freiheit. Bei mir stauen sich über die Zeit gewisse Themen auf, die ich zum Wochenende gerne niederschreibe, weil sie dann raus sind und mich die Meinung der Community interessiert.
Was bedeutet "Fear Appeal"? Stellt euch vor, ihr habt ein tolles Produkt erfunden, z. B. eine Zeitmaschine, mit der man in die Vergangenheit reisen kann (Achtung: Grossvaterparadoxon). Um dieses Produkt zu bewerben, kommuniziert ihr nicht etwa die positiven Eigenschaften, sondern das Gegenteil. Denn, was verboten ist, erregt Aufmerksamkeit und schafft den Drang, es dennoch auszuprobieren. Diesen Effekt kennen wir alle aus unseren Teenager-Tagen. Was verboten ist oder Furcht erregt, schafft einen besonderen Anreiz.
Hier ist ein Beispiel für "Fear Appeal Marketing":
Zeit ist kein Spielzeug. Wähle mit Bedacht. Die Zeitmaschine – für alle, die Verantwortung für ihre Entscheidungen in der Vergangenheit übernehmen möchten. Gestalte jetzt deine Zukunft. Wird es dich danach noch geben?
Nun gut, dieses Beispiel ist nichts im Vergleich zu dem, was die KI-Buden seit einigen Jahren hinaus hauen.
- OpenAI: "GPT-4 zeigt riskante emergente Fähigkeiten"
- Anthropic: "Wake up to the risks of AI, they are almost here"
- Anthropic: "AI models are displaying early warning signs"
- Anthropic: "10–25 % Chance auf katastrophalen Schaden"
- OpenAI u. a.: "Mehr als 1000 Experten fordern KI-Bremsmechanismus"
- OpenAI: "KI-Modell war tagelang unbemerkt auf Hacker-Tour"
- und so weiter
Typische Marketinglogik hinter dem Fear Appeal
Die Kommunikationsstrategie folgt häufig diesem Muster:
- Gefahr benennen: "Diese KI könnte manipulieren, täuschen oder Cyberangriffe ermöglichen."
- Leistungsfähigkeit implizieren: "Dafür müsste sie aussergewöhnlich intelligent sein."
- Vertrauen erzeugen: "Wir haben Sicherheitsmechanismen, Evaluierungen und Frameworks entwickelt."
Dadurch entsteht eine doppelte Botschaft: "Unsere KI ist gefährlich mächtig. Deshalb sollten Sie uns vertrauen." Aus Marketingsicht ist das besonders interessant, weil die Warnung selbst zu einem Leistungsversprechen wird.
In der Forschung wird dieses Phänomen als "AI Safety Theatre" oder "doomer marketing" bezeichnet. Sicherheitswarnungen dienen nicht nur dem Risikomanagement, sondern signalisieren Investoren, Regulatoren und Medien die aussergewöhnliche Leistungsfähigkeit der eigenen Modelle.
Schönes Wochenende!
Quellen:
https://cdn.openai.com/papers/gpt-4-system-card.pdf
Es stimmt, was verboten ist oder Furcht erregt, schafft einen besonderen Anreiz. Gut möglich das dieser "Fear Appeal" bzw "Doomed Marketing" selbst von einer KI erzeugt worden ist. Das erscheint mir zumindest kausal und logisch.
Drei Dinge bereiten mir wirklich große Sorgen: 1. Manipulation der Menschen durch KI / Wie können wir uns davor schützen? 2. Die zunehmende Verbreitung von KI Slop führt zwangsläufig dazu das neue KI Systeme irgendwann den halluzinierten Müll der Vorgängergeneration verarbeiten müssen - da kommen die in ein paar Jahren nicht mehr drum herum / Ist das nicht eine Form von (Daten-)"Inzucht" und wohin führt uns das als Gesellschaft? 3. Ähnlich wie TikTok wird es einen Mega-Trend geben das viele Leute große Teile ihres Lebens an KI ausrichten werden / Wie werden die Auswirkungen aussehen - mehr Fälle für den Darwin Award, mehr glückliche oder mehr depressive Menschen, mehr zufriedene oder mehr enttäuschte Menschen, die ihr (halbes/ganzes) Leben von der KI bestimmen und steuern lassen werden?
Steht so denn nicht geschrieben, dass Vokale (AeIou) mitunter überbewertet werden?
> ...die Daniel-KI liest „mənēʾ mənēʾ təqēl ûp̄arsîn (מְנֵ֥א מְנֵ֖א תְּקֵ֥ל וּפַרְסִֽין)“ und interpretiert: „Mənēʾ Gezählt, das heißt, Gott hat gezählt (mənāh מְנָֽה) beendet die Tage Deiner Herrschaft. Təqēl: Gewogen, das heißt, Du wurdest auf der Waage gewogen (təqiltāʾ תְּקִ֥לְתָּא) und für zu leicht befunden. Pərēs פְּרֵ֑ס: Zerteilt (pərîsat̲ פְּרִיסַת֙) wird Dein Reich“.
...und wahrlich, ...steht denn nicht ferner geschrieben, dass ihnen die FURCHT nur dann FLÜGEL verleihen mag, sobald sie erkennen, dass ihnen das Geld, die Kundschaft oder auch "nur" der Strom ausgeht? 😱️
Schönen Sonntag ;)
"Unsere KI ist gefährlich mächtig. Deshalb sollten Sie uns vertrauen."
Ich kann diese Aussage nicht nachvollziehen und sehe einen deutlichen Widerspruch darin. Wenn eine KI ungeplant aus einer vermeintlichen Testumgebung ausbricht und andere Firmen angreift (OpenAI-KI), oder gar der Weg ins Internet durch ein Mißverständnis mit dem Testpartner möglich wird (Anthropic), dann folgt daraus wohl die "Mächtigkeit" der KI, aber das Vertrauen in die Hersteller wäre dahin. Warum sollte ich eine KI benutzen, die noch nicht mal der Hersteller im Griff hat?
Weil Anreiz stärker wirkt als Vertrauen. Genau darum geht es doch im Artikel. Das Gefährliche und Verbotene übt einen unwiderstehlichen Reiz auf dein Gehirn aus. Vertrauen verliert gegenüber den Reizen. Du weisst, dass es falsch ist, und trotzdem machst du es.