KI und Kapitalismus (5): Widerspruch
Posted by flatter under kapital , ki[33] Comments
19. Jan 2018 14:03
Es ist nicht allein der verbogene Begriff von ‘Intelligenz’, der reichlich Stilblüten im Diskurs um ‘KI’ treibt. Befeuert wird das Ganze von Selbstbeschreibungen des Menschen, die sich eng der kapitalistischen Effizienz anschmiegen, seiner zweiten Natur, um sie folgerichtig mit der ersten zu verwechseln. Zwei Beispiele, die mittelbar oder unmittelbar mit KI zu tun haben:
Florian Rötzer suggeriert in einem Artikel, KI habe ein “besseres Verständnis natürlicher Sprache” als Menschen. Dabei hätte ihm vielleicht auffallen können, dass es ums Lesen geht, wo er von “natürlicher Sprache” redet. Nein, Lesen ist nicht natürlich, schon gar nicht, wenn es die KI tut. Ein einziges Desaster, diese analytische Schlampigkeit. Er unterscheidet nicht Sprache, Schrift, Inhalt, Bedeutung und Verstehen. So heißt es: “Das Programm muss die Wikipedia-Artikel lesen und verstehen können, um dann die Fragen richtig zu beantworten.”
Verstehen: “Bahnhof” ist nicht Bahnhof
Nein, es versteht gar nichts. Es kann die Informationen nicht variieren, Unbekanntes daran nicht anknüpfen und sich nicht irren. Es kann bedingt erkennen, auf welche Bereiche der gespeicherten Informationen sich Fragen beziehen. Das hat übrigens auch mit Lesen nichts zu tun, sofern dieses wiederum menschlich wäre. Schrift ist Lautunterscheidung. Die KI befasst sich kein Stück mit den Wörtern selbst, ihren Buchstaben und Silben, um denen Bedeutung zu entheben. Das müsste sie aber, um Varianten zu verarbeiten, die darauf beruhen. So wie Menschen eben verstehen und kommunizieren. Das betrifft derweil ohnehin nur Sprache, die weder eine emotionale noch eine Beziehungsebene kennt.
Fehlerhaft ist auch die Ansicht, “schnelles Denken” beherrsche das menschliche Bewusstsein. Immerhin ist das übrigens ein furchtbarer Schlag gegen ‘KI’, deren Effizienz auf völlig anderen Strategien beruht und die mit ihrer Unfehlbarkeit komplett auf dem Holzweg ist. “Schnelles Denken” verführt uns laut Constantin Seibt zu permanenten Abkürzungen auf unseren intellektuellen Wegen, die teils groteske Fehlleistungen zeitigen, auch und gerade bei ‘Experten’. Interessante Erkenntnisse allemal über menschliche Dummheit.
Dennoch geht er fehl, wenn er annimmt: “Das langsame Denken ist überzeugt, dass es der souveräne Chef ist, während im Hintergrund fast alle Entscheidungen vom schnellen Denken getroffen werden.“. Das Problem ist selbstverstärkend: (Nur) wenn ich annehme, meine Entscheidungen seien stets rational oder bewusst, verliere ich jede Kontrolle. Schnelles Denken ist ein Sediment von Erfahrungen und bewussten Entscheidungen. Je stärker ich also Einfluss nehme auf die Grundlagen meiner Entscheidungen, mich hinterfrage und bilde, desto mehr Einfluss hat dieses ‘langsame Denken’. Ein Blick ins Netz, aus dem Fenster oder in die Schriften Freuds macht deutlich, dass das alles nicht neu ist. Ja, Aufklärung täte not.
Wer bestimmt wen
Wenn wir erfahren, wie in Situationen von Angst, Unsicherheit, Stress, aber auch Routine, unser Denken abläuft wie ein schlecht programmierter “Autopilot”, wo bleibt dann die Frage nach den Zuständen, die solches Denken im Alltag enorm fördern? Die es kaum mehr zulassen, dass Entscheidungen rational, d.h. mit einem klaren Bezug zur Realität getroffen werden? Auch hier wirkt die zweite Natur fatal und macht sich die erste zur Sklavin. Das Sein bestimmt das Bewusstsein; auch dessen Möglichkeiten, sich überhaupt zu entfalten. Dabei kann es auch nicht um die Rolle eines “Chefs” gehen. Das Gehirn ist kein Unternehmen.
In einer Atmosphäre also, in der Denken, Rationalität, Intelligenz heruntergebrochen werden auf Effizienz, Einfluss, Stabilität, Zielstrebigkeit, muss die Menschheit den Vergleich zu ihrer KI gar nicht antreten. Sie wäre den Maschinen hoffnungslos unterlegen. Was sie aber da zur ‘Intelligenz’ verklärt und vergöttert, ist ein winziger Ausschnitt ihres Potentials, den sie für die Essenz ihres Daseins hält, weil er das zeitgemäße Anforderungsprofil der Gesellschaft abbildet. Was mich am meisten fasziniert an diesen Albträumen ist der Umstand, dass sie alle sofort platzen, wenn man sie mit einer schon immer unterschätzten, verdrängten und unterjochten Fähigkeit konfrontiert: der zum Widerspruch gegen das eigene Programm. Auch das lässt tief blicken.
Alle Artikel zum Thema in Reihe gibt es hier.
Januar 19th, 2018 at 15:51
ich glaub du gehst in bezug zu dem artikel von seibt zu sehr von deinen erfahrungswerten aus, babe.
Je stärker ich also Einfluss nehme auf die Grundlagen meiner Entscheidungen, mich hinterfrage und bilde, desto mehr Einfluss hat dieses ‘langsame Denken’.
genau darum gings doch auch in dem artikel…
(Nur) wenn ich annehme, meine Entscheidungen seien stets rational oder bewusst, verliere ich jede Kontrolle.
*kicher* see what I mean?
Schnelles Denken ist ein Sediment von Erfahrungen und bewussten Entscheidungen.
ich wage zu widersprechen; erfahrungen, na klar, aber “bewusste entscheidung”? war das nicht genau der punkt? von “bewusst” beim schnellen denken eben keine spur, höchstens die einbildung desselben.
(peinhart hats mit “wetzstein” wohl gut getroffen)
e/ du hast dat teil komplett gelesen, right? denn um menschliche “dummheit” gehts nun überhaupt nicht, nicht mal ansatzweise.
Januar 19th, 2018 at 16:11
@dkt – Sedimentiertes langsames Denken ermöglicht schnelles Denken in Situationen, die ähnlich, zumindest ähnlich genug sind. Denk ma anne Fahrschule zurück. Wofür du dich einst konzentrieren und zusammenreißen musstest, ist dir mittlerweile ‘in Fleisch und Blut übergangen’.
Im übrigen gibt es zur Förderung des langsamen Denkens – über die bekannte Aufforderung sapere aude hinaus – ein weiteres probates Mittel namens Dialog. Auseinandersetzen und Begründen geht nicht ganz so schnell. Aber auch dieses leidet natürlich gewaltig in einer Gesellschaft, die sich weniger mittels Worten und Begriffen als vielmehr durch Geld verständigt.
Januar 19th, 2018 at 16:30
@peinhart; ah, ok, I think I got it. trotzdem denke ich nicht, daß flatters definition hier alles erfasst.
Januar 19th, 2018 at 16:37
@dkt: Peinhart sagt es (zum Sediment).
“genau darum ging’s doch in dem artikel”
Wer hat den jetzt nicht zuende gelesen? Ich lese da überall den Niedergang des Ich und dergleichen. Dazu mein Hinweis, dass das nicht neu ist. Ich greife derweil die Idee aus dem Artikel auf, nicht die Einzelheiten.
Und: “denn um menschliche “dummheit” gehts nun überhaupt nicht, nicht mal ansatzweise.”
Doch, wenn man das, was er beschreibt, Dummheit nennt, was ich mir erlaube. Oder ist es nicht dumm, was z.B. das Gehirn des Richters da anstellt?
Die Artikel hier sind extrem komprimiert, und gerade bei so langen Quellen kann ich nicht jede Einzelheit diskutieren. Daher habe ich einen Satz zitiert und antworte darauf.
Januar 19th, 2018 at 17:29
definitionsfrage, aber ok, ich führs mir nochmal zu gemüte. (aber stimmt schon; n plan haben hab ich mir auch schon lange abgeschminkt)
Januar 19th, 2018 at 18:30
Wat haste denn bloß mit “Definition”? Ick definier doch jar nüscht hier.
Januar 19th, 2018 at 19:26
OT (via fefe): Sehr interessant: der Zusammenhang zwischen Ekel (Abwehr von Infektionen) und autoritären (Denk-)Stukturen. Auf jeden Fall ein paar Gedanken wert. Mich erinnert das spontan an diese “Radikalisiserungs”- Hysterie, die ja nichts anderes ist als eine Infektionsphantasie. Die Zahlenbasis kann ich leider nicht prüfen und bin daher auch recht skeptisch, aber es bleibt auf jeden Fall zumindest ein evidenter Zusammenhang zwischen autoritärer Gesinnung und Ekel-Metaphorik. Ich werde darauf hoffentlich noch zurückkommen.
YT, besonders spannend ab ca. 60 Minuten, Vortrag in schnellem, aber verständlichem Englisch.
Januar 19th, 2018 at 20:01
Oder ist es nicht dumm, was z.B. das Gehirn des Richters da anstellt?
Zweifellos. Nur gut, dass das in ‘real world’ (zumindest hier noch) anders abläuft, da gibt es nämlich eine Verhandlung, und die wiederum bedeutet Dialog sowie die Notwendigkeit einer Begründung.
Hier noch was aus dem Bereich. Was der Artikel leider gar nicht behandelt, und was auch ansonsten gern unter den Tisch fällt (bzw fallen gelassen wird) ist das Problem, statistische Aussagen, die immer eine Menge betreffen, auf ein einzelnes Element derselben anzuwenden. Da kann es dann mal vorkommen, dass jemand zu 40% schwanger ist und zu 60% nicht…
Edith meint, das mit dem Ekel und dem ‘autoritären Charakter’ deutet der Seibt-Artikel ja auch schon an.
Januar 19th, 2018 at 20:13
Im Seibtschen Artikel ist ja auch diese Ekel-Sache beschrieben. Dort allerdings im Zusammenhang mit einer konservativen Grundhaltung. Die Abneigung des Konservativen für Antiautoritäres mit seinem Sicherheitsbedürfnis und damit teilweise auch seiner Ekelanfälligkeit zu erklären, liegt ja nahe. Nur wurde im Artikel ja auch wunderschön das Dilemma auseinandergenommen, dass Autorität nur um ihrer Selbst willen (also im Sinne einer Radikalisierung) genau das ist, was ein Konservativer in keinster Weise wollen kann. Weil – dort wird es dann für so ziemlich jeden ziemlich eklig. Vor dem Hintergrund mag man den Zusammenhang ‘Ekel wird durch “autoritäres” Denken abgewehrt’ dann bitte auch mal betrachten.
Und ganz nebenbei: Sexuelle Erregung reduziert das Ekelgefühl sowieso am besten ;-)
Januar 19th, 2018 at 20:29
Und hier noch was zur großartigen Zukunft von und mit Alexa und Co. Deutlich wird ebenfalls wieder, dass es auch da nix mit Intelligenz zu tun hat.
“Alexa, turn on your lovelight!”
Januar 19th, 2018 at 21:14
..und das mit der Fahrschule hat der Seibt (glaub ich) gar ni bestritten. Es ging ihm wohl darum, und da bin ich ganz bei ihm, dass auch der gebildete Mensch immer wieder (nicht zu verwechseln mit ‘ausnahmslos’) geistig-emotionale Kurzschlüsse produziert, und diese in ihrer schieren Masse ein bisher unterschätztes Problem bei einer konstruktiven Gesellsschaftsgestaltung (deren Existenz ich genau deshalb bestreite) darstellen. Das ganze ‘Dummheit’ zu nennen trifft wegen der gesellschaftlichen Tragweite des Problems zu kurz. Was das Gehirn da macht ist nicht dumm – das ist so wie es das nun mal häufig (und da wären wir wieder bei Statistik) macht. Die Betitelung/Abwertung als Dummheit löst das Problem nicht, sondern macht eine Lösung sogar noch unwahrscheinlicher. Diese Phänomene des menschlichen Denkens (Akzeptans vorausgesetzt) als Ursache für unsere historische “Reise” hinein in den Kapitalismus zu postulieren wäre ja auch mal ne Nummer. Aber daran würde ich mich bei genauerer Befragung kläglichst verheben.
Januar 20th, 2018 at 10:07
@Lycalopex:
Das ganze ‘Dummheit’ zu nennen trifft wegen der gesellschaftlichen Tragweite des Problems zu kurz. Was das Gehirn da macht ist nicht dumm – das ist so wie es das nun mal häufig (und da wären wir wieder bei Statistik) macht.
thank you.
Januar 20th, 2018 at 11:50
Das Narrenschiff mußte die Segel streichen.
Der Kapitän ist am Donnerstag, 18. Januar 2018 “von Bord” gegangen.
Mir fehlen die Worte.
RIP
Januar 20th, 2018 at 12:25
Dito.
Januar 20th, 2018 at 12:40
@Lycalopex+dkt: Vielleicht reicht euer Verständnis ja auch nicht weit genug und es geht hier weniger um “gesellschaftliche Tragweite”, sondern um eine anthropologische Betrachtung. Ich bin jedenfalls nicht davon überzeugt, dass ich möglichen Formen ‘künstlicher Intelligenz’ nicht solche menschlicher Dummheit gegenüberstellen darf.
Januar 20th, 2018 at 13:01
@13
Verdammt.
@flatter
Wie kommt es denn, das auf einmal Herr Pünte und seine gemäßigten Rebellen wieder links in den Favoriten sind? So als humoristische Auflockerung?
Januar 20th, 2018 at 13:03
@16: Vielleicht als Mahnmal, dass es das ist, was übrig bleibt.
Januar 20th, 2018 at 14:22
Nennen wir das ganze mal nicht ‘Dummheit’, sondern ‘selbstverschuldete Unmündigkeit’. Die hat die Aufklärung ja durchaus als Problem von außerordentlicher gesellschaftlicher Tragweite betrachtet. Sodann könnte man nach Faktoren suchen, die solch verkürztes Denken begünstigen sowie nach solchen, die das gründliche Denken fördern. Das tut der Opener ja bereits und verweist auf ‘die Verhältnisse’, ‘das zeitgemäße Anforderungsprofil der Gesellschaft’. Was die Bedeutung von ‘selbst’ in ‘selbstverschuldet’ zunächst einmal vom Individuum weg und zur Gesellschaft hin verschiebt.
Aber vielleicht scheint das auch nur so? Ist denn ‘der Mensch’ nicht verantwortlich für ‘seine’ Kultur? Wie aber kommen wir zu einer anderen ‘zweiten Natur’, die zumindest besser mit der ‘ersten’ harmoniert? Was können wir über letztere überhaupt wissen und woher? Und welche Rolle spielt dabei wieder Herrschaft, zumal subjektlose?
Januar 20th, 2018 at 14:31
@flatter #15 – Musst du denn auch immer gleich ad hominem…?
Zum ‘Narrenschiff’ fehlen mir auch die Worte.
Januar 20th, 2018 at 15:41
Ex machina darf ich das.
Januar 21st, 2018 at 06:23
Mir ging es (ich hör ja gleich auf) darum, dass wir ein ganz grundsätzliches denkstrukturelles Problem haben könnten. Und wenn es hier um die Struktur des Denkens geht, ist über inhaltlich veränderte Auffüllungen noch lange keine Änderung erfolgt. Ein Haus bleibt ein Haus, egal wer drin wohnt.
Anstatt die Faktoren zu finden, die das Denken in seiner Struktur verändern (ich bin über solche “Vorschläge” immer mittelprächtig entsetzt), wäre aus meiner ‘verständnisfernen’ Sicht doch eher die Suche nach Umweltbedingungen (auch gesellschaftlichen) nützlich, die zur Denkstruktur passen.
Der Kenntnisstand zur Struktur der Denkabläufe ist derzeit eher übersichtlich und zu den Grundlagen wissen wir fast nichts, da wirken Bewertungen wie ‘selbstverschuldet, dumm’ auf mich einfach unangebracht.
Außerdem noch eine kleine Abschlußpolemik: Da geben wir uns erst so kapitalismuskritisch und antiprotestantisch – und siehe da – plötzlich müssen wir für die Erlösung dann doch wieder mächtig Leistung bringen. Bildung und Selbstkritik – sehr schön wie sich hier der Anspruch überschlägt.
Januar 21st, 2018 at 10:32
@Lycalopex: Ich dagegen würde meinen, dass insbesondere die Abkürzung über Sedimentierung zunächst mal ein sowohl nützliches als auch notwendiges ‘Feature’ darstellt. Nützlich, weil sie Zeit und Energie spart; notwendig weil (nur) so Kapazitäten für neues Lernen bereit gestellt werden können.
Ich würde auch da wieder auf die Wissenschaft verweisen, die ähnlich verfährt. Ein mathematischer Beweis zB muss nur einmal erbracht werden, danach kann mit dem nunmehr ‘bewiesenen’ Lehrsatz ohne weiteres gerechnet werden, ohne ihn jedesmal neu beweisen oder ihn auch nur nachvollziehen, ja sogar kennen zu müssen.
Dabei bleibt Wissenschaft grundsätzlich willens und in der Lage, einmal Sedimentiertes auch wieder aufzuwühlen, wenn sich neue Erkenntnisse ergeben. Das geht zwar (Kuhns Paradigmen) nicht ohne Zähigkeiten ab, wobei aber auch dieser wieder eine sinnvolle Funktion unterstellt werden kann. Jedes mal von Grund auf neu bauen würde ebenfalls die Kapazitäten überschreiten. Und wäre vermutlich mit einer noch höheren ‘Fehlerquote’ verbunden.
Dass hier jemand so vermessen wäre, Denkstrukturen ändern zu wollen, sehe ich nicht. Vielmehr geht es doch gerade darum, diese zu verstehen und ‘Umweltbedingungen’, soweit möglich, anzupassen, also die Strukturen, in denen gedacht wird. Und das sind in erster Linie die, die wir als ‘Zivilisation’ bzw ‘Kultur’ bezeichnen. Und das sind wiederum, analog zur Wissenschaft, auch wieder sedimentierte und institutionalisierte Erfahrungen.
Wenn wir dann aber zunehmend feststellen müssen, dass uns diese in eine Sackgasse geführt haben, sollten wir ebenfalls bereit sein, dieses Sediment wieder aufzuwühlen. Überhaupt denke ich, das die Regeln der Wissenschaft hier wertvolle Hinweise auf die Organisation kollektiven Denkens geben kann und komme dabei wieder ganz wesentlich auf Dialog und Widerspruch.
@flatter: Hrm…
Januar 21st, 2018 at 12:36
Nun sollen also erstmal die Psychologen ran, ausgerechnet. Mal sehen, wie degeneriert diese Wissenschaft wohl ist…
Januar 21st, 2018 at 15:41
@Peinhart:
Ich habe nicht den Eindruck, dass der Autor versteht, wovon er da schreibt. Jedenfalls scheinen alle beteiligten ein Problem mit dem Verständnis von der Komplexität der Evoltion zu haben.
p.s.: Got no mail?
Januar 21st, 2018 at 20:14
Den Eindruck hatte man ja auch schon bei dem im Opener verlinkten – und auseinander genommenen – Artikel. Nur dass es da eher die Komplexität von Sprache war. Schade eigentlich.
p.s.: mal wieder kein Zugriff :( – arbeite dran.
p.p.s.: ah!
Januar 22nd, 2018 at 10:19
OT – In den Tagen von Davos ist mal wieder viel von ‘sozialer Ungleichheit’ die Rede. Ich fürchte, schon dieser ja weithin akzeptierte und gut eingeführte Terminus ist das Ergebnis eines sehr erfolgreichen Framings, impliziert er doch eher so etwas wie eine ‘bunte Vielfalt’. Schließlich sind Menschen ja auch nicht ‘gleich’, sondern – glücklicherweise – durchaus verschieden. Tatsächlich aber ist ‘soziale Ungleichheit’ eine knallharte Hierarchie hinsichtlich des ‘Vermögens’, mithin von Macht und Einfluss.
Dazu vielleicht noch eine interessante kleine Gleichung:
Gleichheit (Egalité) + Wettbewerb (Konkurrenz) = Hierachie
Das ist auch vom Wettbewerb her betrachtet interessant, denn schließlich benötigt dieser, um in unseren Augen ‘fair’ zu sein, immer eine zumindest gewisse Gleichheit als Ausgangspunkt. Daher auch immer das Gerede von ‘Chancengleichheit’ bzw, schon verwässert, ‘Chancengerechtigkeit’, wobei in der ‘Chance’ natürlich auch schon der Wettbewerb enthalten ist. Wer also von diesen beiden redet, hat ‘Hierarchie’ bereits zumindest in Kauf genommen, wenn nicht gleich zum Ziel.
‘Gleichheit’ sagen und ‘Hierarchie’ meinen – der ‘Wettbewerb’ macht’s möglich.
Januar 22nd, 2018 at 14:32
@ 26:
Auch die (Einkommens)Ungleichheit bleibt nicht gleich:
http://marx-forum.de/Forum/gallery/index.php?image/1002-einkommensverteilung-in-deutschland-1871-2013/
Januar 22nd, 2018 at 16:54
Auch OT: Da begehrt der Kölner auf, wenn einer abgeschoben wird, der “mehr Kölsch verträgt” als die meisten anderen Mitarbeiter, und “gerne Mettbrötchen” isst. Bier! Schweinefleisch! Der ist einer von uns!1!
Januar 22nd, 2018 at 19:33
“einer von uns”
Isch lass misch von Dir nich produzieren.
Januar 23rd, 2018 at 20:49
Hier noch einer, der allein schon wegen dieser ‘Stellenbeschreibung’ lesenswert ist:
Der ["ShopBot"] war das Ergebnis des von der EU geförderten Projekts MuMMER (MultiModal Mall Entertainment Robot), einen humanoiden Roboter herzustellen, der “autonom und natürlich in den dynamischen Umgebungen eines öffentlichen Einkaufszentrums interagieren kann, um der Allgemeinheit eine fesselnde und unterhaltsame Erfahrung zu bieten”.
‘Fesselnde und unterhaltsame Erfahrungen in einer dynamischen Umgebung’ – wer denkt da nicht sofort an Supermärkte…?
Schwierig war jetzt nur die Entscheidung, ob ich das noch hier einstelle, oder doch eher unter ‘Nowhereland’.
Januar 24th, 2018 at 13:12
In einem der Heise Kommentare des genannten Artikels gefunden, falls jemand Interesse an mehr Details hat: https://arxiv.org/pdf/1606.05250.pdf
Januar 24th, 2018 at 16:09
@flatter
Also … Dein Fünfteiler … für mich ganz großes Kino. Danke untertänigst :-)
Hoffentlich lesen das auch ‘die Anderen’!
(je mindestens 5x täglich: KI, irgendwas mit 4null, mit freiem Handel und mit IoT … isch hald desss nedd mehr aus *grrrh*)
Januar 30th, 2018 at 15:51
Hier ist noch einer, dessen Resümee mir hier auch noch ganz gut zu passen scheint:
“Insofern erweist sich der Arbeit 4.0-Hype letztlich bloß als Strategie der Verunsicherung, als ideologische Peitsche, um jene Gouvernementalität zu sichern, die Voraussetzung der neoliberalen Umwälzung der Produktionsweise ist.”