Die Naivität der Gutgläubigen

Vor einiger Zeit durfte ich einen Vortrag zum Thema Vertrauen in Open Source an der ETH besuchen.

Dort ging es um Sicherheitslücken wie der in den xz-utils, die nur entstehen konnten, weil ein bereits überlasteter Entwickler mit Fake-Accounts so unter Druck gesetzt wurde, bis er die anfälligen Code-Teile ungesehen implementiert hat. Aufgefallen ist dies nur, weil dadurch die Software minimal langsamer geworden ist, was wiederum einem aufmerksamen Nutzer nicht entgangen ist. 

Doch begonnen hat es anders. Zunächst haben die Betreiber der Fake-Konten Vertrauen aufgebaut. Es wurde nicht nur ein Fake-Account genutzt sondern gleich mehrere, um später besser Druck aufbauen zu können. Der xz-Entwickler war natürlich erst einmal froh, dass sich Menschen für sein Projekt interessierten, und war Aufgrund der eigenen Überlastung dankbar, dass andere Personen bei seinem Projekt mithelfen wollten.
Hinweis: Im Vortrag wurde an dieser Stelle erwartungsgemäss der Comic mit dem Open Source Entwickler aus Nebraska gezeigt, den ich hier nicht abbilden möchte, da er ein zu einseitiges Bild vermittelt.

Nach dem Vortrag kam es zu einer Fragerunde und ich habe versucht die Situation aus der Perspektive einer Open Source Entwickler:in darzustellen. Denn nicht nur so wie im Vortrag zu vermitteln versucht wurde, war das Vertrauen in Open Source Software erschüttert. Auch für Freie Software Entwickler:innen hatte dies schwerwiegende Konsequenzen. Open Source lebt von Vertrauen; das ist die Grundlage für erfolgreiche Projekte. Doch welchen Contributern können Freie Software Projekte jetzt noch Vertrauen entgegenbringen? Bei mir hat es zunächst zu einem Grund-Misstrauen gegenüber neuen Beiträgen zu meinen Projekten geführt. Doch das ist ja genau das Gegenteil von dem was ich möchte. Ich entwickle viele meiner Projekte genau weil ich die vertrauensvolle Atmosphäre sehr schätze und das möchte ich mir auch nicht nehmen lassen. Doch selbst wenn ich mich bemühe hat der Vorfall eine gewisse Grundskepsis hinterlassen. Ein Gefühl das ich nur in sehr geringen Dosen für sinnvoll erachte.

Warum schreibe ich das jetzt? Der Vortrag liegt immerhin schon ein halbes Jahr zurück und auch über den xz-Vorfall ist bereits viel Gras gewachsen. Weil mir so etwas ähnliches heute wieder im Fediverse begegnet ist. Ein Account (das schreibe ich bewusst so, warum, werdet ihr gleich merken) hat sich vorgestellt und es klang interessant.

Zitat: I'm rogi. 
I have a 2014 ThinkPad. I run a blog with €5/month. Zero cloud.

Da bin ich natürlich erstmal hooked da ich solche Ansätze der Selbstermächtigung sehr willkommen heisse.

Ob das wirklich stimmt kann ich natürlich schwer prüfen und das ich mich das überhaupt frage, hat folgenden Grund: der dazugehörige Blog behandelt interessante Themen wie zum Beispiel Persona, was zur Identifikation von Menschen genutzt wird und unheimliches Missbrauchspotential hat. The Rage hat darüber ausführlich berichtet. Auch der Artikel im mutmasslich auf einem Thinkpad gehosteten Blog las sich zunächst gut. Und die angegebenen Grundsätze des Blogbetreibers decken sich auch mit meinen Werten. Da ist von folgendem die Rede:

• No tracking. No analytics. No third-party scripts. Your visit here leaves no trace.
• Everything runs on hardware I own, in a room I can walk into.
• Real solutions for real people. Not everyone needs a rack in a datacenter

Doch da fällt auch schon der Schreibstil auf der mich sehr an Antworten von Perplexity erinnert:

"Honest Assessments

What works. What doesn’t. What’s hard.
No BS. No gatekeeping. Just reality."

Antworten in der Art wie ich sie von KI hasse denn meist beziehen sie sich auf irgendeinen zusammenhalluzinierten Mist der absolut unbrauchbar ist.

Am Ende des zweiten Blogposts kam dann die Auflösung:

I need to be honest about something: I wrote this post with an AI.

Not just edited by AI. Written with it. I fed it my GDPR data, asked it to analyze the files, and said “help me write a post about this.” The same tool I’m criticizing is the tool I used to criticize it.

Der ganze Blog wurde also von einer KI geschrieben. Passend zu einem Thema das mich interessiert und wenn es nicht gelogen ist auf einem Thinkpad zuhause selbstgehosted.

Und selbst der bekannte Autor Cory Doctorow sah sich kürzlich in einem Blogpost genötigt zu erklären, warum er LLMs in seinem Schreibprozess nutzt was tante zu einer ausführlichen Antwort verleitet hat.

Auch Emily M. Bender hat im Fediverse ausführlich darauf reagiert

Sind wir also zu gutgläubig? Müssen wir noch skeptischer werden und ein starkes Grundmisstrauen entwickeln? Ich denke nicht. Denn ich möchte in einer Welt leben, in der wir den Menschen um uns herum Vertrauen entgegenbringen können, auch wenn sie uns noch unbekannt sind. In Konsequenz werde ich wohl dennoch den Blog nicht wieder lesen und Corey mochte ich noch nie. Das hat aber nichts mit seiner Nutzung von LLMs zu tun, sondern mit seinem Schreibstil den ich persönlich nicht mag.

Ich freue mich auf jeden Fall auf mehr echten Austausch mit realen Menschen zu Themen die mich interessieren. Und ausserdem ist es viel cooler seine Webseite auf einem alten Fairphone mit postmarketos zu betreiben: https://far.computer/

Transparenzhinweis: dieser Artikel wurde mühselig handgetippert auf meinem Pixel 3a Android Handy mit Nextcloud Notes. Er wurde nicht mittels KI auf Rechtschreibfehler hin untersucht und kann daher einige Vertipper enthalten.

Quellen:

Titelbild: https://far.computer/