SciFi-Autor Charles Stross hat auf dem 34c3 einen interessanten Vortrag zum Thema “KI” gehalten, den ich zunächst inhaltlich kurz abarbeiten möchte:
Ganz richtig stellt er fest, dass eine KI, die menschliches Verhalten perfekt beherrschte, “auf dem Sofa sitzen und Chips fressen” würde. Er weist Phantasien über selbststeuernde KI, die den Menschen beherrscht, als “Religion” zurück und bietet ein deutlich rationaleres Modell.
Ein schöner Satz ist eine seiner Kernaussagen: “The secret weapon of scifi is history”. Geschichte ist aber nicht nur die Geheimwaffe der Science Fiction; sie ist die Basis aller Wissenschaft. Sofern deren Zweck auch zutreffende Prognosen sind, ist es nur logisch, die Zukunft aus der Vergangenheit abzuleiten. Zudem meidet Wissenschaft Irrtümer, indem sie die der Vergangenheit meidet; ihr Entwicklungsstand ist geronnene Geschichte, und wenn sie neue Erkenntnisse gewinnt, muss sie sich revidieren, also ebenfalls mit ihrer Vergangenheit beschäftigen.
Stross meint, dass es bereits eine “analoge KI” gibt, nämlich “corporations” – Firmen bzw. Körperschaften, hier meist als “die Wirtschaft” verklärt. Diese sind durchaus mit digitalen Systemen zu vergleichen – Ihre Verfasstheit, die (u.a. juristischen) Regeln, nach denen sie funktionieren, sind die “Software”. Menschen sind Funktionsträger innerhalb dieser technischen Strukturen der Wirtschaft. Sie sind jederzeit ersetzbar; zunehmend durch Technik selbst.
Die große Maschine
Insofern gibt es bereits eine ‘KI’, die genau das macht, wovor Dystopien von einer Herrschaft der Maschinen warnen: Sie versklavt die Menschen nach ihren technischen Regeln. Selbst Regierungen unterwerfen sich den Regeln der Körperschaften. Die technische Entwicklung, mit der diese verbunden sind, ist wiederum so schnell, dass keine (staatliche) Regulierung dem jemals mehr beikommt. Man kann diese Systeme nicht regulieren.
Leider spricht auch Stross das böse Wort “Kapitalismus” nicht aus. Der nämlich ist die große Maschine, deren Regeln die Menschen folgen. Die Abläufe sind digital, folgen dem Regelwerk der Zahlen mit dem festgelegten Ziel G’ > G, mithin: aus Geld mehr Geld machen. Die technische Entwicklung folgt ebenfalls diesem Ziel. Stross wendet dann den Blick auf aktuelle Tendenzen bzw. Gefahren dessen, was hier “Digitalisierung” genannt wird.
Korrekt stellt er fest, dass Machine Learning im Netz Lernen von Aufmerksamkeitsökonomie ist, die Maschinen also also weder Denkstrukturen übernehmen, noch wirklichen Bedürfnissen entgegenkommen. Ob mit Angst, Sex oder grellen Farben – der ‘KI’ ist egal, wie sie Aufmerksamkeit erregt. Diese wiederum nutzt sie, um etwas zu verkaufen. Diese Beobachtung deckt sich übrigens mit dieser Analyse von ‘Fake News’ und angeblichen Twitter-Bots im Vortrag von Michael Kreil.
So what?
Stross geht seinerseits dennoch von der Gefahr aus, KI könne Wahlen manipulieren. Auch glaubt er, dass künftig Medieninhalte leicht und massenhaft gefälscht werden können, weil sowohl händisch als auch per KI selbst Laien in der Lage sein werden, zum Beispiel Gesichter und Stimmen so in Videos einzupflegen, dass eine Art Fake Evidence (gefälschter Beweis) zur Alltagswaffe für Trolle und Erpresser werden wird.
Ich will es zunächst bei dieser Zusammenfassung und einem Ausblick belassen. Schon die Vorstellung, man könne etwas ‘Echtes’ von der Komplexität eines Filmes mal eben produzieren, das sich nicht leicht von Menschen durchschauen lässt, halte ich für gewagt. Vor allem aber würde dergleichen zu einer völlig anderen Form von Kommunikation führen, die aus einer Spezies von Gläubigen eine von Zweiflern machen würde – mit allen weitreichenden Konsequenzen. Darüber hinaus müssen folgende Fragen gestellt werden:
- Wie soll aus der Simulation menschlichen Daseins eine überlegene ‘KI’ entstehen, die dem Menschen immer nur ähnlicher werden könnte?
- Was würde eine Anpassung ans Menschliche hervorbringen (wir hatten hier dieses erbärmliche Beispiel einer ‘KI’, die “ein Unternehemen gründen” ‘will’.)?
- Was ist überhaupt eine KI, die “intelligenter” wäre als der Mensch und wohin führt das vor allem in Bezug auf die “große Maschine” Kapitalismus?
- Ist das Problem nicht ohnehin keines der ‘Intelligenz’, sondern des Körpers?
p.s.: Hier gibt es das Transkript des Vortrags.
Alle Artikel zum Thema in Reihe gibt es hier.