Martin Burckhardt hingegen plädiert in diesem Interview für eine Erweiterung der Maschinen-Metapher, wie sie weiland vor allem von Lewis Mumford eingeführt und heute bspw von Fabian Scheidler verwendet wird. Das so beworbene Buch steht auf der Leseliste, harrt aber noch…

Derweil will mir scheinen, dass eine wesentliche Beschränkung aller KI-Algorithmen darin liegt, dass sie ihren vorgebenen Rahmen nicht überschreiten können. So ist es natürlich möglich, eine KI zu implementieren, die im sog. Hochfrequenzhandel jedem menschlichen Entscheider haushoch überlegen ist. Ihre Antworten werden aber immer die vorgegebene Form ‘x verkaufen, y behalten, z kaufen’ haben, der menschliche Entscheider hingegen mit der Frage ‘Was soll der Scheiss – wer bin ich denn, und was mach ich hier?’ auch den Rahmen verlassen bzw in Frage stellen kann.

Das hat offenbar auch das Pentagon erkannt und bittet um Vorschläge für eine KI, die ‘selbst Daten sammeln, Hypothesen entwicklen, Modelle erzeugen und überprüfen können’ soll. Das wäre mE aber auch nur eine erweiterte Problemstellung, die der KI dann entsprechend aber erstmal eine ‘Idee’ davon vermitteln müsste, was ‘Daten’, ‘Modelle’, ‘Hypothesen’ etc sind und wie sie sich aufeinander beziehen. Dazu wäre zunächst einmal ‘viel Glück’ zu wünschen, andererseits anzumerken, dass der beschränkende Rahmen damit zwar erweitert, aber natürlich keineswegs aufgehoben wäre.

Und dann war da auch noch was von Sascha Lobo… ;)

Viele Forscher auf diesem Gebiet tappten im Dunkeln und wüssten eigentlich nicht, was sie täten. Nicht nur einzelne Algorithmen funktionierten wie eine “Black Box”, bei der man nur Ein- und Ausgabe kennen und nicht verstehe, was im Inneren geschehe. Ganze Teile der KI-Forschergemeinschaft würden inzwischen genauso anmuten.

Der Informatiker François Chollet, ebenfalls von Google, formuliert es so: Man programmiere die Software schlicht so, dass sie die Trefferquote maximiere. Trotz tausender wissenschaftlicher Arbeiten zum Thema basiere das aber im Wesentlichen auf Versuch und Irrtum.

Erinnert mich an mein eigenes Vorgehen, wenn ich mal Grafik programmieren musste. Erweckt nicht gerade Vertrauen. Aber wir sollen wollen. Existentielle Entscheidungen möglichst. Vielleicht hängt der Hype auch damit zusammen, dass eh niemand mehr so recht weiter weiss.

Warum diese nutzbaren Stärken nur auf IT- und Compliance-Projekte beschränken?

Der eigentliche Adressat, welcher dies schlußfolgernd erkennen sollte, wird damit jedoch in seiner VR nicht mehr erreicht.

Umgekehrt wird der Mensch zum Computer gemacht. So virtuell wie die Bilder und Welten auf der Oberfläche des Bildschirms werden auch Körper, Seele und Geist des Menschen. Das Gehirn als „CPU“ (Central Process Unit) erzeugt diese Bilder und entwirft uns, die wir uns gleichsam als Programm durchs Leben bewegen. In diesem Bild vom Menschen spielt die Differenz zwischen Gefühl und Bewußtsein kaum eine Rolle – beides sind Funktionen, die der Programmerfüllung untergeordnet sind.

Die Verabsolutierung des Gehirns als Leitorgan, als Konstruktionsstelle für Wirklichkeit setzt den Körper ins Unrecht. Der Körper ist lediglich ausführende Mechanik. Die Seele, heute einfach synonym für Gefühle, ist vom Gehirn gemacht.

Quelle: Der niedergeschlagene Mensch
(Depression. Eine sozialwissenschaftliche Studie zu Geschichte und gesellschaftlicher Bedeutung einer Diagnose)

Die Gefährlichkeit der KI, das wird auch hier noch einmal deutlich, liegt wieder mal nicht in der Technik selbst, sondern in der (Deutungs-) Macht, die ‘wir’ Menschen ihr auf den verschiedensten Ebenen einzuräumen bereit sind. Wir machen uns selbst zu Sklaven eines noch dazu ziemlich platten Modells.

Ausdrückliche Leseempfehlung, trotz 190 Seiten pdf…

Die bittere Ironie an dem – aus klassischen Fachidiotentum erwachsenen – Ignoranzgebilde des Transhumanismus besteht selbstverständlich darin, dass „die Maschinen“ längst über die Menschheit herrschen. Sie tun es seit der Durchsetzung des Kapitalismus – nur tun sie es nicht bewusst. [...] [S]ie tun es als Konkretisierungen der realabstrakten, blinden Verwertungsbewegung des Kapitals [...]