All posts by capulcu

ChatGPT als Hegemonieverstärker

Eine Gesellschaft mit unechten Menschen, die wir nicht von echten unterscheiden können, wird bald gar keine Gesellschaft mehr sein.1 (Emily Bender, Computerlinguistin)

Die Künstliche Intelligenz (KI) erlebt aktuell ihren iPhone-Moment. ChatGPT hat einen beispiellosen Hype um künstliche Intelligenz ausgelöst. Innerhalb von zwei Monaten haben mehr als 100 Millionen Menschen weltweit die neue Technik ausprobiert.

Sprachmodelle – keine Wissensmodelle

Der Chatbot2 ChatGPT basiert auf einem sogenannten großen Sprachmodell, das wir uns wie einen sehr großen Schaltkreis mit (im aktuellen Fall von GPT-4) einer Billion justierbarer Parameter vorstellen können. Ein Sprachmodell beginnt als unbeschriebenes Blatt und wird mit mehreren Billionen Wörtern Text trainiert. Die Funktionsweise eines solchen Modells ist, das nächste Wort in einer Folge von Wörtern aus dem ‚Erlernten‘ zu erraten. Die Bedeutung von Worten ist für ein Sprachmodell lediglich die statistische Erfassung des Kontexts, in dem sie auftauchen.

Continue reading ChatGPT als Hegemonieverstärker

Die Goldgräber der Künstlichen Intelligenz

Zweiter Teil unserer kritischen Textreihe zu KI.

Ende Mai 2023 wird ein kurzes Statement1 veröffentlicht, welches vor der Auslöschung der Menschheit durch Künstliche Intelligenz warnt. Unter das Statement haben Koryphäen der KI-Forschung, CEOs von KI-Unternehmen wie OpenAI und weitere prominente Figuren des Tech-Sektors ihre Unterschrift gesetzt. Diese apokalyptische Warnung reiht sich ein in eine ganze Serie gleichartiger Aussagen2 von Personen und Institutionen aus dem genannten Dunstkreis. Eric Schmidt, Ex-CEO von Google und jetzt Regierungsberater, warnt vor Tausenden von Toten. Sam Altman, CEO von OpenAI, der Entwicklungsfirma von ChatGPT, fleht die US-Regierung an, Regulatorien für die Branche zu erlassen.3

Es ist schon etwas verwunderlich, dass ausgerechnet diejenigen vor einer Technologie warnen, die sie selbst mit Macht und viel Geld auf den heutigen Stand gebracht haben. Sie erscheinen wie Goethes Zauberlehrling, der die Geister, die er rief, nicht mehr unter Kontrolle hat. Nichts könnte falscher sein.

Continue reading Die Goldgräber der Künstlichen Intelligenz

Klima: Das grüne Vehikel für die KI-Offensive


Die KI versteht. Warum wir nicht?“ – Die Mobilisierung von Fridays for Future Hamburg zum Klimastreik am 15.09.2023 unterstellt dem KI-basierten Bildgenerator den Klimawandel besser zu durchschauen als die Menschen.

Künstliche Intelligenz ist derzeit in aller Munde – auch in der Klimabewegung. Warum das problematisch ist, lest ihr im ersten Teil unserer kritischen Textreihe zu KI.

Als Microsoft-CEO Satya Nadella im Februar die neue KI-gestützte Version der Suchmaschine Bing vorstellte, beschwor er mit dem „dreiköpfigen Monster aus Inflation, Rezession und Energiekrise“ das ganz große Bedrohungsszenario herauf. Natürlich nur, um direkt im Anschluss zu verkünden, dass die technische Lösung der genannten Probleme greifbar nahe sei. Es überrascht nicht, dass ein Unternehmen wie Microsoft danach „strebt, Technologie einzusetzen, um die großen Herausforderungen, die sich Menschen, Organisationen und Staaten stellen, zu bewältigen,“ wie Nadella die Ziele des Konzerns formulierte.1 Schließlich geht es dem Konzern bei der öffentlichkeitswirksamen KI-Offensive u.a. darum, endlich wieder Marktanteile im Google-dominierten Suchmaschinenmarkt zu gewinnen.

Continue reading Klima: Das grüne Vehikel für die KI-Offensive

Going Viral — Organisierung in Zeiten von Corona

Wir befinden uns mitten in einer neuen Welle von Covid-19-Infektionen und mit ihr zeichnen sich erneute massive Einschränkungen von Bewegungs- und Versammlungsfreiheit ab. Die Folgen der Kontaktsperren für linksradikale Politik und Strukturen haben wir im Frühjahr am eigenen Leib erleben dürfen. Damit sich das nicht wiederholt, möchten wir zu einem
reflektierten, kritischen und daraus folgernd auch widerständigen Umgang mit den verordneten Maßnahmen in Bezug auf politische Aktivitäten aufrufen! (…)

–> Flyer als pdf

Die „freiwillige“ Corona-App

Die Bundesregierung setzt für eine schrittweise Rücknahme der Corona-Kontaktbeschränkungen auf eine breite Akzeptanz für die nach Ostern herunterladbare App zur nachträglichen Kontaktrekonstruktion Infizierter. Die (berechtigte) Angst vor dem Virus wird benutzt, um einem Großteil der Bevölkerung „freiwillig“ ein autoritär hochwirksames Werkzeug zu verabreichen.

Wir kritisieren in diesem Artikel die technische Konstruktion der App, aber auch ihre sozial-technokratischen Konsequenzen. Selbst wenn das Protokollieren von Kontakten vollständig pseudonym erfolgen würde, müssen wir dringend vor dieser App warnen. In dem Moment, wo (sogar anonyme) Verhaltensdaten flächendeckend anfallen, sind die prädiktiven Modelle, die damit trainiert werden, dazu in der Lage, ganze Populationen in Risikogruppen einzuteilen und algorithmisch zu verwalten. Hinzu kommt, dass ein simples Software-Update die App in ein wirksames Tool zur individuellen Zugangsbeschränkung verwandelt. Daher unser klares Nein zur Corona-App!

–> Aufsatz als pdf
–> english version (pdf)
–> version francaise (pdf)

Die Corona-Krise — Gewöhnung an das Regiertwerden im Ausnahmezustand

Der Ausnahmezustand ist das neue Normal. Die derzeitigen gesellschaftlichen Einschränkungen bis hin zu vollständig außer Kraft gesetzten Grund-, Bürger- und Menschenrechten, in der Absicht einer (unbestritten notwendigen) Verlangsamung der Ausbreitung des Coronavirus überschlagen sich. Beinahe täglich werden weiter gehende Vorschläge diskutiert und per Allgemeinverfügung umgesetzt. Wir sind uns daher bewusst, dass unser heutiges Augenmerk (22.3.20) auf aktuell besonders weit greifende Maßnahmen in wenigen Wochen in ein neues Koordinatensystem von Akzeptanz bzw. Empörung einsortiert werden wird. Die Geschwindigkeit dieser Koordinatenneusetzung könnte ein geeignetes Maß für die Transition vom Antiterror- zum epidemischen Ausnahmezustand sein. Darin erfährt der „Gefährder“ eine qualitative Neuinterpretation. 

–> Aufsatz als pdf

Sicherheitswarnung MAC-Changer

Wir richten uns an Euch mit einem Appell zur Vorsicht. In der von uns publizierten Broschüre zum Linux-Live-System „Tails“ empfehlen wir die Benutzung der sog. „MAC Randomisierung“. Die Randomisierung ersetzt bei euren Netzwerkadaptern die eincodierte und eindeutige MAC Adresse durch einen Zufallswert. Dadurch soll verhindert werden, dass anhand der MAC Adresse eure Gerät wiedererkannt werden kann.

In letzter Zeit sind wir über einige Papiere gestolpert:

Why MAC Address Randomization is not Enough: An Analysis of Wi-Fi Network Discovery Mechanisms
https://papers.mathyvanhoef.com/asiaccs2016.pdf

Defeating MAC Address Randomization Through Timing Attacks
https://hal.inria.fr/hal-01330476/document

A Study of MAC Address Randomization in Mobile Devices and When it Fails
https://content.sciendo.com/downloadpdf/journals/popets/2017/4/article-p365.xml

Know Thy Quality: Assessment of Device Detection by WiFi Signals
http://sig-iss.work/percomworkshops2019/papers/p639-rutermann.pdf

Alle behandeln das Thema MAC Randomisierung (insb. von WIFI-Adaptern) unter dem Aspekt, ob nicht doch die eigentliche MAC Adresse „rauskitzelbar“ ist oder es andere Wege gibt, die Wiedererkennbarkeit eures Geräts zu ermöglichen. Ohne auf Details eingehen zu wollen: Die Bilanz sieht für diejenigen, die Wert auf ihre Anonymität legen, nicht gut aus.

Das Thema ist vielschichtig und wir haben uns rangesetzt, um genauer hinzusehen. Die Recherche wird etwas dauern, bis dahin empfehlen wir:

  • Baut den WIFI Adapter aus eurem Tails-Laptop aus.
  • Verwendet (billige) USB-WIFI Sticks und *entsorgt sie nach Gebrauch*.
  • Verwendet nach wie vor die MAC Randomisierung, auch wenn sie ihr Versprechen (vielleicht) nicht halten kann, fügt sie eine weitere Ebene der Verschleierung ein.
  • Verwendet weiterhin Tor und Tails, um zumindest auf der Ebene eine Anonymität aufrecht zu erhalten.

capulcu, September 2019