All posts by capulcu

Der kommende KI-Winter

Veranstaltungsreihe:

16.10.24 Winterthur | 17.10.24 Basel | 18.10.24 Bern

Große Sprachmodelle wie ChatGPT haben Millionen von Menschen beeindruckt und dazu bewegt, mit ihnen Texte, Bilder und Videos zu erzeugen. Und das obwohl die Ergebnisse vielfach nur oberflächlich überzeugen. Mittlerweile ‚droht‘ der Hype um diese Form von Künstlicher Intelligenz (KI) abzukühlen. Die Branche kann den selbst geweckten Erwartungen, dass hier etwas erwächst, dass schon bald ‚intelligenter‘ als wir sein wird, nicht gerecht werden. Wir blicken hinter die Kulissen und ergründen warum maschinelles Lernen auf die Rolle eines statistischen Papageis beschränkt bleibt und differenziertes Denken weiterhin unser Job sein wird.

Das Ringen um die technologische Vorherrschaft auf diesem Sektor geht trotz Ernüchterung unvermittelt weiter. Es ist ideologisch, ökonomisch und sogar militärisch insbesondere in der sich zuspitzenden USA-China-Krise um eine neue multipolare Weltordnung zu bedeutsam. Die Produktion von Höchstleistungschips für das aufwändige KI-Training sowie der Betrieb dieser Modelle in neuen Rechenzentren schlucken hunderte von Milliarden und sind verantwortlich für eine exzessive Verschwendung von Strom, Wasser, Metallen und seltenen Erden. Die Ökobilanz der Tech-Riesen verschlechtert sich durch den Ausbau von KI-Anwendungen drastisch – die vor wenigen Jahren selbstgesteckten Ziele von Google, Microsoft und Co, schon bald ‚klimaneutral‘ zu operieren, werden nun um Jahrzehnte nach hinten geschoben!

Wir diskutieren die komplexen Krisen-Auswirkungen der KI und fragen, an welchen Punkten es möglich sein könnte, der zerstörerischen Tech-Transformation nicht mehr nur zuzuschauen, sondern politisch einzugreifen.

Chipproduktion in der Multikrise

Die materielle Seite künstlicher Intelligenz

Von capulcu

Einleitung

Der Hype um sogenannte „künstliche Intelligenz“ (KI) erscheint uns in den meisten Debatten in rein virtueller Gestalt; als Versprechen einer quasi voraussetzungsfreien Automatisierung nahezu aller Lebensbereiche durch eine tiefgreifende Neugestaltung von Mensch-Maschine-Interaktionen auf der Basis menschlicher Sprache. Die politisch-ökonomischen Konsequenzen dieses technologischen Sprungs, insbesondere die Verstärkung gesellschaftlicher Ungleichheit und Abhängigkeit von einem technokratischen Oligopol (= die wenigen Hüter:innen der großen Sprachmodelle) haben wir bereits in Die Goldgräber der Künstlichen Intelligenz diskutiert.

Eine politisch relevante Verengung breiter Diskurse durch eine Überhöhung des Mainstreams gepaart mit einer zu erwartenden Rechtsverschiebung haben wir in ChatGPT als Hegemonieverstärker untersucht. Die Wechselwirkung sozialer Medien mit Sprachgeneratoren wie ChatGPT reduziert nachweislich diskursive Diversität und fördert gesellschaftliche Fragmentierung.

In diesem Text soll es bewusst um die materielle Seite künstlicher Intelligenz im Kontext mehrfach verschränkter Krisen gehen – insbesondere die ökologische Krise in Verbindung mit der Krise neuer Kriege um eine multipolare Weltordnung. Unser erster Text Klima – das grüne Vehikel der KI-Offensive hat das Thema bereits angerissen. Die KI entpuppt sich hinsichtlich der Klimazerstörung als Brandbeschleuniger und nicht, wie vielfach herbeifantasiert, als zentrales Lösungswerkzeug eines für den Menschen zu komplexen Optimierungsproblems.

Continue reading Chipproduktion in der Multikrise

ChatGPT als Hegemonieverstärker

EN: ChatGPT AS HEGEMONY BOOSTER
IT: ChatGPT COME STRUMENTO PROMOTORE DELL’ EGEMONIA

Eine Gesellschaft mit unechten Menschen, die wir nicht von echten unterscheiden können, wird bald gar keine Gesellschaft mehr sein.1 (Emily Bender, Computerlinguistin)

Die Künstliche Intelligenz (KI) erlebt aktuell ihren iPhone-Moment. ChatGPT hat einen beispiellosen Hype um künstliche Intelligenz ausgelöst. Innerhalb von zwei Monaten haben mehr als 100 Millionen Menschen weltweit die neue Technik ausprobiert.

Sprachmodelle – keine Wissensmodelle

Der Chatbot2 ChatGPT basiert auf einem sogenannten großen Sprachmodell, das wir uns wie einen sehr großen Schaltkreis mit (im aktuellen Fall von GPT-4) einer Billion justierbarer Parameter vorstellen können. Ein Sprachmodell beginnt als unbeschriebenes Blatt und wird mit mehreren Billionen Wörtern Text trainiert. Die Funktionsweise eines solchen Modells ist, das nächste Wort in einer Folge von Wörtern aus dem ‚Erlernten‘ zu erraten. Die Bedeutung von Worten ist für ein Sprachmodell lediglich die statistische Erfassung des Kontexts, in dem sie auftauchen.

Continue reading ChatGPT als Hegemonieverstärker

Die Goldgräber der Künstlichen Intelligenz

Zweiter Teil unserer kritischen Textreihe zu KI.

Ende Mai 2023 wird ein kurzes Statement1 veröffentlicht, welches vor der Auslöschung der Menschheit durch Künstliche Intelligenz warnt. Unter das Statement haben Koryphäen der KI-Forschung, CEOs von KI-Unternehmen wie OpenAI und weitere prominente Figuren des Tech-Sektors ihre Unterschrift gesetzt. Diese apokalyptische Warnung reiht sich ein in eine ganze Serie gleichartiger Aussagen2 von Personen und Institutionen aus dem genannten Dunstkreis. Eric Schmidt, Ex-CEO von Google und jetzt Regierungsberater, warnt vor Tausenden von Toten. Sam Altman, CEO von OpenAI, der Entwicklungsfirma von ChatGPT, fleht die US-Regierung an, Regulatorien für die Branche zu erlassen.3

Es ist schon etwas verwunderlich, dass ausgerechnet diejenigen vor einer Technologie warnen, die sie selbst mit Macht und viel Geld auf den heutigen Stand gebracht haben. Sie erscheinen wie Goethes Zauberlehrling, der die Geister, die er rief, nicht mehr unter Kontrolle hat. Nichts könnte falscher sein.

Continue reading Die Goldgräber der Künstlichen Intelligenz

Klima: Das grüne Vehikel für die KI-Offensive


Die KI versteht. Warum wir nicht?“ – Die Mobilisierung von Fridays for Future Hamburg zum Klimastreik am 15.09.2023 unterstellt dem KI-basierten Bildgenerator den Klimawandel besser zu durchschauen als die Menschen.

Künstliche Intelligenz ist derzeit in aller Munde – auch in der Klimabewegung. Warum das problematisch ist, lest ihr im ersten Teil unserer kritischen Textreihe zu KI.

Als Microsoft-CEO Satya Nadella im Februar die neue KI-gestützte Version der Suchmaschine Bing vorstellte, beschwor er mit dem „dreiköpfigen Monster aus Inflation, Rezession und Energiekrise“ das ganz große Bedrohungsszenario herauf. Natürlich nur, um direkt im Anschluss zu verkünden, dass die technische Lösung der genannten Probleme greifbar nahe sei. Es überrascht nicht, dass ein Unternehmen wie Microsoft danach „strebt, Technologie einzusetzen, um die großen Herausforderungen, die sich Menschen, Organisationen und Staaten stellen, zu bewältigen,“ wie Nadella die Ziele des Konzerns formulierte.1 Schließlich geht es dem Konzern bei der öffentlichkeitswirksamen KI-Offensive u.a. darum, endlich wieder Marktanteile im Google-dominierten Suchmaschinenmarkt zu gewinnen.

Continue reading Klima: Das grüne Vehikel für die KI-Offensive

Going Viral — Organisierung in Zeiten von Corona

Wir befinden uns mitten in einer neuen Welle von Covid-19-Infektionen und mit ihr zeichnen sich erneute massive Einschränkungen von Bewegungs- und Versammlungsfreiheit ab. Die Folgen der Kontaktsperren für linksradikale Politik und Strukturen haben wir im Frühjahr am eigenen Leib erleben dürfen. Damit sich das nicht wiederholt, möchten wir zu einem
reflektierten, kritischen und daraus folgernd auch widerständigen Umgang mit den verordneten Maßnahmen in Bezug auf politische Aktivitäten aufrufen! (…)

–> Flyer als pdf

Die „freiwillige“ Corona-App

Die Bundesregierung setzt für eine schrittweise Rücknahme der Corona-Kontaktbeschränkungen auf eine breite Akzeptanz für die nach Ostern herunterladbare App zur nachträglichen Kontaktrekonstruktion Infizierter. Die (berechtigte) Angst vor dem Virus wird benutzt, um einem Großteil der Bevölkerung „freiwillig“ ein autoritär hochwirksames Werkzeug zu verabreichen.

Wir kritisieren in diesem Artikel die technische Konstruktion der App, aber auch ihre sozial-technokratischen Konsequenzen. Selbst wenn das Protokollieren von Kontakten vollständig pseudonym erfolgen würde, müssen wir dringend vor dieser App warnen. In dem Moment, wo (sogar anonyme) Verhaltensdaten flächendeckend anfallen, sind die prädiktiven Modelle, die damit trainiert werden, dazu in der Lage, ganze Populationen in Risikogruppen einzuteilen und algorithmisch zu verwalten. Hinzu kommt, dass ein simples Software-Update die App in ein wirksames Tool zur individuellen Zugangsbeschränkung verwandelt. Daher unser klares Nein zur Corona-App!

–> Aufsatz als pdf
–> english version (pdf)
–> version francaise (pdf)

Die Corona-Krise — Gewöhnung an das Regiertwerden im Ausnahmezustand

Der Ausnahmezustand ist das neue Normal. Die derzeitigen gesellschaftlichen Einschränkungen bis hin zu vollständig außer Kraft gesetzten Grund-, Bürger- und Menschenrechten, in der Absicht einer (unbestritten notwendigen) Verlangsamung der Ausbreitung des Coronavirus überschlagen sich. Beinahe täglich werden weiter gehende Vorschläge diskutiert und per Allgemeinverfügung umgesetzt. Wir sind uns daher bewusst, dass unser heutiges Augenmerk (22.3.20) auf aktuell besonders weit greifende Maßnahmen in wenigen Wochen in ein neues Koordinatensystem von Akzeptanz bzw. Empörung einsortiert werden wird. Die Geschwindigkeit dieser Koordinatenneusetzung könnte ein geeignetes Maß für die Transition vom Antiterror- zum epidemischen Ausnahmezustand sein. Darin erfährt der „Gefährder“ eine qualitative Neuinterpretation. 

–> Aufsatz als pdf

Sicherheitswarnung MAC-Changer

Wir richten uns an Euch mit einem Appell zur Vorsicht. In der von uns publizierten Broschüre zum Linux-Live-System „Tails“ empfehlen wir die Benutzung der sog. „MAC Randomisierung“. Die Randomisierung ersetzt bei euren Netzwerkadaptern die eincodierte und eindeutige MAC Adresse durch einen Zufallswert. Dadurch soll verhindert werden, dass anhand der MAC Adresse eure Gerät wiedererkannt werden kann.

In letzter Zeit sind wir über einige Papiere gestolpert:

Why MAC Address Randomization is not Enough: An Analysis of Wi-Fi Network Discovery Mechanisms
https://papers.mathyvanhoef.com/asiaccs2016.pdf

Defeating MAC Address Randomization Through Timing Attacks
https://hal.inria.fr/hal-01330476/document

A Study of MAC Address Randomization in Mobile Devices and When it Fails
https://content.sciendo.com/downloadpdf/journals/popets/2017/4/article-p365.xml

Know Thy Quality: Assessment of Device Detection by WiFi Signals
http://sig-iss.work/percomworkshops2019/papers/p639-rutermann.pdf

Alle behandeln das Thema MAC Randomisierung (insb. von WIFI-Adaptern) unter dem Aspekt, ob nicht doch die eigentliche MAC Adresse „rauskitzelbar“ ist oder es andere Wege gibt, die Wiedererkennbarkeit eures Geräts zu ermöglichen. Ohne auf Details eingehen zu wollen: Die Bilanz sieht für diejenigen, die Wert auf ihre Anonymität legen, nicht gut aus.

Das Thema ist vielschichtig und wir haben uns rangesetzt, um genauer hinzusehen. Die Recherche wird etwas dauern, bis dahin empfehlen wir:

  • Baut den WIFI Adapter aus eurem Tails-Laptop aus.
  • Verwendet (billige) USB-WIFI Sticks und *entsorgt sie nach Gebrauch*.
  • Verwendet nach wie vor die MAC Randomisierung, auch wenn sie ihr Versprechen (vielleicht) nicht halten kann, fügt sie eine weitere Ebene der Verschleierung ein.
  • Verwendet weiterhin Tor und Tails, um zumindest auf der Ebene eine Anonymität aufrecht zu erhalten.

capulcu, September 2019