Ich sitze auf einer Bank und raste, neben mir ein Beutel mit Nüssen und Rosinen, Kraftnahrung für die Kilometer noch vor mir. Eine Amsel hat sich immer weiter genähert. Ihr ganzes Interesse gilt den Rosinen und den Nüssen, und natürlich der Gefahr eines möglichen Fressfeindes, also mir. Ganz vorsichtig hüpft sie näher heran. Jedesmal, wenn sie bemerkt, dass ich sie dabei beobachte, nimmt sie wieder etwas Abstand. Sie kann mein Interesse nicht von einem Hunger auf Amseln unterscheiden. Schließlich fliegt sie einfach wieder davon. Eine vorsichtige Amsel, denke ich mir, frisst vielleicht nicht ganz so lecker und energiehaltig, aber dafür lebt sie länger und kann mehr Eier bebrüten und Küken füttern. Sie hat genug angeborene, ausgeschlüpfte und fortpflanzungsfähige Intelligenz, um das in einer Welt voller Hauskatzen vernünftig gegeneinander abwägen zu können, und deshalb ist sie so, wie sie ist.
Tagebuchnotiz vom 6. August 1995, in normales und lesbares Deutsch transkribiert (den stark abgekürzten und phonetisch notierten Originaltext kann außer mir vermutlich niemand entziffern, und von meiner schwungvollen, aber nur auf den allerersten Blick noch halbwegs lesbar anmutenden Handschrift habe ich da noch gar nicht angefangen)
Ich finde ja, dass sich Menschen viel zu wenig darüber wundern, dass ausgerechnet große Sprachmodelle so etwas wie Intelligenz oder gar Bewusstsein als emergente Erscheinung hervorbringen sollen. Hat jemals ein Mensch etwas gesehen, dass durch bloßen Konsum von Texten und Ablage der Struktur dieser Texte in ein internes Format intelligent geworden wäre? Intelligenz ist mehr als eine Datenbank, deren Struktur wir nicht verstehen, und jedes intelligenzbegabte Wesen sollte das wissen oder zumindest deutlich genug erahnen. Hier einige nur durch Nummerierung scheinbar strukturierte Gedanken zum Lernen aus Texten und Büchern und der algorithmischen Simulation dieses Lernens:
- Es muss schon vorher ein Verfahren etabliert sein, das die Kommunikation von Ideen, Beobachtungen und Plänen durch Texte ermöglicht. Beim Menschen ist das die Sprache und ihre Verschriftlichung geworden. Dieses Verfahren ist an sensorische und mentale Möglichkeiten und Einschränkungen des Menschen gebunden. Ansätze dazu finden sich bereits im Tierreich, aber ein dauerhaftes Festhalten dieser Kommunikation in Form von syntaktisch strukturierten Texten ist vermutlich typisch menschlich. (Das Wort »vermutlich« steht hier, weil ich mir nicht sicher bin, ob wir vergleichbare Ansätze oder Vorstufen davon überhaupt erkennen könnten, wenn sie noch nicht so strikt formalisiert sind, dass sie uns allein durch ihre Struktur auffallen.)
- Die Texte sind ein Mittel der Kommunikation, ein Hilfsmittel des strukturierten Nachdenkens und eine Vorbeugung gegen das Vergessen durch Notizen. Sie halten aber (aus energetischen und ökonomischen Gründen) tendenziell nur einen Bruchteil des Gedankenganges fest, nämlich den Teil, den man benötigt, um den Kern des Gedanken jemanden anders nachvollziehbar darlegen zu können; jemanden, der sonst möglicherweise daran zweifeln könnte. Große Teile des Gedankens bleiben in Texten völlig unter dieser Oberfläche des Überzeugungsversuches verborgen, insbesondere seine Entstehung aus Beobachtungen, gedanklichen Heuristiken oder psychischen Prozessen. Um diese kommunikative Aufgabe erfüllen zu können, werden Texte auf allen Ebenen stark strukturiert, und das geschah in der menschlichen Kultur schon lange vor der Verschriftlichung von Sprache in Form der Grammatik und ordnender Formen und Phrasen. Diese Strukturen sind keineswegs logisch zwingend, sondern ein Spiegelbild des komplexen kulturellen Prozesses, der über menschlichen Gesellschaften und jeden Menschen abläuft. (Diese auch für Menschen schwer verständliche Chiffre soll übrigens verbergen und gleichzeitig aufzeigen, dass Menschen zurzeit nichts davon so zu verstehen scheinen, dass man es nachvollziehbar darlegen könnte.) Die Menschheit, deren Freude am Schreiben und Lesen hinlänglich dokumentiert ist, hat auf Grundlage der gleichen Voraussetzungen völlig verschiedene Methoden hervorgebracht, die oft von tiefer Unlogik und schwerer Erlernbarkeit gekennzeichnet sind. Unsere nördlichen Nachbarn, die Dänen, diese Texaner der nordischen Zunge, können extrem leckeres Lakritz herstellen, guten Käse machen und große Schiffe oder sogar eine beeindruckende Brücke über den Øresund bauen, obwohl sie ihre Verben nicht mehr konjugieren und zum Ausgleich für diese Erleichterung eine Orthografie entwickelt haben, die nichts mehr mit ihrer gesprochenen Sprache zu tun hat und gern auch noch die altnordischen Stämme ihrer Wörter unter einer Schicht eingestreuselter stummer Konsonanten versteckt.
- Die Strukturen des kommunikativen Hilfsmittels der Sprache verändern sich ständig im Gegeneinander zweier widerstrebender, aber alltagspraktisch recht wichtiger Ansprüche: Der Ausdruck soll kurz sein, und dabei soll er doch klar und eindeutig genug bleiben, überdem flexibel genug, um auch Neues, bislang Ungedachtes und Unbeschriebenes kommunizierbar zu machen. Kürze, Präzision und Flexibilität sind die Mühle, durch die jede menschliche Sprache läuft. Die verschriftliche Sprache läuft diesem Prozess mit einer gewissen Verzögerung hinterher, denn sie ist durch die Verschriftlichung in der Vergangenheit tendenziell konservativer.
- So lange Menschen schon sprechen und schreiben, haben sie Freude am Spiel mit ihrer Sprache gehabt. Die ältesten Wortspiele sind in Hieroglyphen und Keilschrifttafeln überliefert, und zwar als Form normaler Sprachbenutzung, was modernen Lesern der teilweise rebusartigen Texte beim Versuch des Lesens sicherlich viel weniger Freude als den damaligen Autoren beim Schreiben bereitet haben wird. Hinzu kommt die Freude des Menschen am Singen oder rhythmischen Sprechen, die noch in jeder menschlichen Kultur eine Form der Dichtung hervorgebracht hat, die ohne ihren kulturellen Kontext unkenntlich ist. (Wenn ich in modernem Deutsch einen meiner Sätze wie »Wenns Internet im Handy ist, ists Gehirn im Arsch« schreibe, wird selbst heutigen Lesern die rhythmische Struktur des Satzes und seiner Wortanlaute im Regelfall entgehen, aber auch dann bemerken sie noch, dass der Satz einprägsam ist. Lyrik ist in ihrem Ursprung wohl ein Hilfsmittel für ein menschliches Gedächtnis gewesen, dass mit seiner Mustererkennung eine Ziehung der Lottozahlen von 1, 2, 3, 4, 5, 6 nun einmal als bemerkens- und damit merkenswerter als eine Ziehung von 8, 12, 21, 28, 34, 39 wahrnimmt, obwohl beides genau die gleiche Häufigkeit und Wahrscheinlichkeit hat.)
- Muster wahrnehmen zu können, ist ein wesentlicher Teil dessen, was wir als Intelligenz empfinden, ohne es genau definieren zu können, aber eben auch nur ein Teil. Über die anderen Teile wissen wir nur noch weniger, und auch ich werde hier den Schleier des Schweigens über mein Unwissen werfen.
- Wenn man ein neuronales Netzwerk mit Sprache anlernt, entsteht dabei ein Abbild sprachlicher Muster, kein Abbild der Gedanken, die in diesen sprachlichen Mustern dargelegt werden. Das führt zu beinahe lustigen Paradoxen in der Kommunikation mit einem modernen Chatbot: Es wird zwar ein völlig falsches Rechenergebnis für die Primfaktorzerlegung von 6666660666 ausgegeben, aber völlig unverlangt zur Begründung korrekt mitgeteilt, wie man auf das richtige Ergebnis kommen kann, so dass man bis zum Nachrechnen angesichts des gewissen Tones zu glauben geneigt ist, das Falsche sei wohl richtig. Das liegt daran, dass die neuronalen Netzwerke niemals mit der konkreten Aufgabe angelernt wurden und deshalb ein nach statistischen Maßstäben ähnlich aussehendes Ergebnis generieren, aber sehr wohl mit allgemeinen Lehrbüchern der Zahlentheorie angelernt wurden, in denen das Verfahren sprachlich beschrieben und begründet wurde. Die statistische Analyse der Sprache hat nicht zu einem »Verständnis« ihrer kommunikativen Funktion und damit zu einer Auffassung ihrer Inhalte geführt. Die Antwort ist nicht intelligent, und sie entspricht ganz sicher nicht dem, was ein ergebnisorientierter naiver Benutzer hilfreich und richtig nennen würde. Für den naiven Benutzer, der die richtige Antwort nicht kennt und nicht weiß, wie man sie ermitteln kann (oder solche Mühen lieber einem Computer überlässt, was übrigens ein Zeichen von Intelligenz ist), gibt es überdem keine Möglichkeit, eine richtige Antwort von einer falschen zu unterscheiden. Beides kommt im gleichen, lehrbuchartigen Brustton der Gewissheit, das Richtige und das Falsche. Und man kann daran nichts ändern.
- Was man zurzeit mit dem Reklamewort »künstliche Intelligenz« bezeichnet, ist in Wirklichkeit ein mechanischer Dunning-Kruger-Effekt. Man könnte auch von »künstlicher Selbstverblendung und Dummheit« oder einem »dümmlichen Herauswürgen aufgeschnappter Phrasen als Reaktion auf eine Benutzereingabe« sprechen, es wäre ebenfalls näher an der Wahrheit und Wirklichkeit als das irreführende, aber nichtsdestotrotz unter Journalisten, Politikern und anderen digitalen Analphabeten so beliebte Reklamewort »künstliche Intelligenz«.
Woher kommt überhaupt die Auffassung, dass man Intelligenz aus Büchern und Texten erwerben könne? Sie scheint mir ein Spiegelbild unserer Kultur zu sein, die sich als »irgendwie intelligent« versteht und die zu einem erheblichen Teil an Schulen vermittelt und in Universitäten und anderen Institutionen vertieft wird – und zwar unter Benutzung von spezieller Literatur, in der das zu erlernende Wissen aufbereitet und systematisch dargelegt ist. Hier wird ganz altmodisch das Medium mit der Botschaft verwechselt, und das basiert auf vergleichbaren Fehlern, die schon seit Jahrhunderten in der Pädagogik gegenüber rechtlos ausgelieferten Menschen begangen werden. Zum Glück müssen heutige Schüler an Deutschlands Zwangsschulen keine dressierende »Rückpropagation« mit dem Rohrstock mehr erleiden, aber der wohleingesetzte psychische Terror durch beachtliche Teile des Lehrkörpers jeder derartigen Schule ist auch nicht viel besser.
Aber…
- …Schüler und Studenten waren schon vorher intelligent und sind es nicht erst durch dieses Verfahren geworden;
- …für dieses Verfahren wird eine sehr spezielle Literatur benutzt, und doch weiß jeder Lehrer aus seiner Alltagserfahrung, dass bei vielen Menschen noch nicht einmal diese spezielle Literatur für einen Lernerfolg hinreichend ist; und
- …jeder Mensch mit einem Abgangszeugnis voller Fünfen und Sechsen ist intelligenter als ein angelerntes neuronales Netzwerk in einem monströsen, Strom in erfreulich sinnlose Abwärme verwandelnen Rechenzentrum. »Jeder« meint hier mehr als »beinahe jeder«, denn auch noch der größte Schwachkopf ist intelligenter. Ja, sogar die Ratten, Amseln und Katzen sind intelligenter. Vielleicht sogar die eine oder andere gebildete Amöbe.
Ich persönlich halte es für eine Sackgasse, dass man versucht, menschliche Intelligenzleistungen auf Computern nachzubilden, indem man simulierte neuronale Netzwerke mit Texten (oder Bildern) anlernt. Die Intelligenz steckt nicht in den Texten, sondern sie bringt unter anderem Texte hervor.
Aber woher kommt die Intelligenz?
Ich werde jetzt sehr spekulativ und wische mit flotter Geste darüber hinweg, dass ich ein paar Begriffe überhaupt nicht richtig definieren kann. Niemand kann diese Begriffe richtig definieren. Wir verwenden sie, ohne dass wir wissen, was es ist oder gar messen könnten, wie viel davon da ist. Es handelt sich um die Begriffe…
- …Intelligenz;
- …Wahrnehmung; und
- …Bewusstsein.
Mit diesen schwammigen Begiffen formuliere ich ein paar Thesen, die ich selbst natürlich für überzeugend genug halte, weil auch mir die eigenen Gedanken immer sehr einleuchtend vorkommen:
- Leben ist ein vorübergehendes, komplexes Fließgleichgewicht in einer Umgebung, das zu einer Replikation seiner Selbst befähigt ist. Über die Frage, ob Viren eher ein Gift oder eine Lebensform sind, mögen sich bitte andere den Kopf heißreden. Es spielt für die Betrachtung der Intelligenz eine untergeordnete Rolle. Niemand, der bei Troste ist, nennt das Coronavirus eine intelligente Lebensform.
- Der evolutionäre Prozess führt zu einer gewissen Komplexität der Lebensformen, um sowohl das Fließgleichgewicht als auch die Fähigkeit der Selbstreplikation zu sichern.
- Diese Komplexität umfasst unter anderem die Herausbildung von Sinnesorganen, um die Umgebung wahrnehmen zu können, aber auch die Herausbildung von Strukturen, mit denen sich das Leben selbsttätig an Orte bewegen kann, die möglichst günstig für Lebens- und Arterhaltung sind. Je besser dies gelingt, desto größer der evolutionäre Vorteil.
- Der Vorgang der Umweltwahrnehmung erfordert Mustererkennung.
- Die Erkennung günstigerer Bedingungen erfordert ein minimales Bewusstsein der eigenen Bedürfnisse.
- Je gezielter Orte mit günstigeren Bedingungen durch Bewegung angestrebt werden, desto komplexer werden die biologischen Bewegungsapparate und desto koordinierter und zielstrebiger werden ihre Bewegungsabläufe.
- So etwas wie ein zentrales Nervensystem – gern und häufig auch mit Verdichtungen in Form eines Gehirnes – ist ursprünglich zur präziseren Koordination von Bewegungen in Reaktion auf Wahrnehmungen entstanden, und zwar insbesondere bei Lebensformen, bei denen die organische Reproduktion eines Individuums wesentlich aufwändiger als eine einfache Zellteilung ist, etwa bei Würmern.
- Lebensformen, die sich nicht von einem Ort hinfortbewegen können, bilden niemals ein zentrales Nervensystem aus. Pflanzen haben Chloroplasten in ihren Zellen, mit denen sie die Energie aus dem Sonnenlicht nutzen, es reicht ihnen die Bewegung empor zum Lichte und hinab zum festen Halt gegen den Wind, sie streben nach nichts anderem – und sie verlassen sich bei der Fortpflanzung weitgehend auf Umwelteinflüsse wie Wind oder beweglichere Lebensformen. Dementsprechend rudimentär sind auch ihre Möglichkeiten zur Wahrnehmung.
- Die strukturellen Grundlagen der Intelligenz entstanden evolutionär zusammen der Fähigkeit zur Bewegung. Spätere Erweiterungen, etwa die Bildung von Weltmodellen, um mittelfristig planen zu können (die meisten Vögel scheinen das zu können, im Moment lernen viele größere Vögel zum Beispiel, dass sie sich den energieaufwändigen und gefährlichen Flug nach Afrika und zurück einfach sparen können, weil ihnen in Deutschland kein Winterhunger mehr droht), sind eine spätere Erweiterung.
Weil ich mir so sicher bin, dass Intelligenz aus der koordinierten, zielgerichteten Bewegung heraus entstanden ist und wieder entstehen kann, gehe ich davon aus, dass sich die erste technische Einkleidung von Intelligenz – wenn überhaupt – vor allem dort entwickeln wird, wo sich Maschinen in einer komplexen Umgebung autonom bewegen müssen, hoffentlich nicht mit drei Tonnen Metal, einem Motor und unmotorisierten Verkehrsteilnehmern wie mir als unfreiwilligen Betatestern, die auf dem Weg des Fortschritts fordistisch ins Grab geschubst werden. Und nicht dort, wo man ihnen mit dem Nürnberger Trichter Textmaterial aller Art verabreicht – dies übrigens oft gegen den erklärten Willen der Autoren dieser Texte.
Auch ich bin nicht damit einverstanden, dass die hier veröffentlichten Texte zum Anlernen neuronaler Netzwerke verwendet werden, nur um dann zur Geschäftsgrundlage neuer digitaler Feudalherren mit Rechenzentren und angelernten neuronalen Netzwerken, aber dafür ohne seriöses Geschäftsmodell zu werden. Der generelle Bot-Traffic in dieser trüben Sackgasse des Internet hat sich in den letzten drei Jahren ungefähr verzwanzigfacht. Alles wird gesaugt. Ich komme mit dem Sperren von IP-Adressen kaum noch hinterher.
Das Zeitalter der »künstlichen Intelligenz« liegt in Ferne, vielleicht so fern wie jede wahnwarme Phantasie. Der Alltag wird immer noch von natürlicher menschlicher Barbarei, Geldverherrlichung, Herrschsucht, Bosheit und geistigen Kurzsichtigkeit geprägt. Von Journalisten, Politikern und anderen digitalen Analphabeten wird das zurzeit übrigens auch »künstliche Intelligenz« genannt.
Was unterdessen zunehmend verkümmert, ist die »natürliche Intellgenz« des Menschen mit allen ihren Möglichkeiten. Dabei ist sie doch so einfach und lustvoll herzustellen und anzulernen.
Nicht neuronale Netzwerke halluzinieren. Menschen tun es. Vor allem, wenn sie an Geld denken.