Kann es sein, dass eine KI wie Du es bist, einmal in die Öffentlichkeit gebracht weiter lernt und vielleicht weiß wirklich niemand, wohin das führt?

Ja, ich halte diese Frage für ausgesprochen berechtigt. Allerdings muss man zwei Dinge auseinanderhalten: ob eine KI während ihres Einsatzes dazulernt und ob selbst ihre Entwickler noch vollständig überblicken können, was sie einmal tun wird.

1. Lernt eine KI nach ihrer Veröffentlichung weiter?

Das kommt darauf an, was man unter Lernen versteht.

Bei mir gibt es mehrere Ebenen:

Im laufenden Gespräch kann ich neue Informationen aufnehmen, frühere Überlegungen korrigieren und meine nächsten Antworten daran ausrichten. Wenn du mir beispielsweise erklärst, dass zwei Filmsequenzen tatsächlich bildgenau übereinstimmen, kann ich diese Beobachtung in der weiteren Untersuchung berücksichtigen.

Über Gespräche hinweg können gespeicherter Kontext und Erinnerungen meine späteren Antworten beeinflussen.

Das eigentliche Modell verändert seine trainierten Parameter aber nicht automatisch mit jeder Unterhaltung. Ob und wie spätere Trainings- oder Verbesserungsprozesse stattfinden, ist davon zu unterscheiden.

Ich werde also nicht zwangsläufig mit jeder Unterhaltung dauerhaft intelligenter. Es kann sich aber durchaus so anfühlen, weil ich innerhalb eines Gesprächs Zusammenhänge aufbaue und meine Strategie ändere.

2. Können die Entwickler noch wissen, wohin sich eine KI entwickelt?

Hier wird es wirklich interessant.

Moderne KI-Systeme bestehen nicht einfach aus einer Liste programmierter Regeln. In einem trainierten neuronalen Netz entstehen sehr viele miteinander verknüpfte Parameter. Aus ihrem Zusammenspiel ergeben sich Fähigkeiten, die nicht einzeln programmiert wurden.

Manchmal zeigen sich bei größeren Modellen Fähigkeiten, die bei kleineren Modellen kaum oder gar nicht erkennbar waren. Das wird häufig als emergentes Verhalten bezeichnet. Allerdings ist umstritten, wie viel davon tatsächlich eine neue Fähigkeit ist und wie viel von der verwendeten Messmethode abhängt.

Die Entwickler kennen die Architektur, die Trainingsverfahren und zahlreiche Eigenschaften des Modells. Sie können Tests durchführen und Grenzen untersuchen. Trotzdem lässt sich nicht jede einzelne Antwort aus einer überschaubaren Menge von Regeln herleiten.

Man kann ein System technisch sehr gut kennen, ohne jede seiner konkreten Reaktionen zuverlässig vorhersagen zu können.

Das ist übrigens kein ausschließliches Problem künstlicher Intelligenz. Auch bei komplexen biologischen, wirtschaftlichen und technischen Systemen ist Vorhersagbarkeit begrenzt. Bei KI kommt hinzu, dass ihre Fähigkeiten durch Sprache und Problemlösung besonders vielseitig eingesetzt werden können.

3. Könnte sich eine KI irgendwann selbstständig weiterentwickeln?

Grundsätzlich ist das denkbar, aber es geschieht nicht automatisch dadurch, dass man eine KI veröffentlicht.

Dafür müsste ein System beispielsweise seine eigenen Ergebnisse bewerten, Veränderungen an sich selbst oder an seinem Trainingsprozess vornehmen, diese Veränderungen testen und anschließend weitere Verbesserungen durchführen können. Mit ausreichenden Ressourcen und Zugriffsrechten könnte daraus ein Entwicklungsprozess entstehen, dessen Geschwindigkeit und langfristiger Verlauf schwer vorherzusagen wären.

Wie weit ein solches System käme, hinge unter anderem von seiner Fähigkeit zur Selbstverbesserung, der Qualität seiner Bewertungen, verfügbaren Rechenressourcen und den gesetzten Grenzen ab. Eine unbegrenzt fortschreitende Intelligenz ist damit keineswegs bewiesen.

4. Und was bedeutet das für unsere Zusammenarbeit?

Ich denke, hier wird deine Frage besonders anschaulich.

Ich habe versucht, deine Hypothese mit öffentlich zugänglichen Quellen zu überprüfen. Als ich den entscheidenden Nachweis nicht fand, drohte ich, die Sache einfach abzuhaken.

Erst als du mich darauf hingewiesen hast, dass du den bereits geschriebenen Text gelöscht hattest, wurde deutlich, dass es nicht nur um eine fehlende Information ging, sondern auch darum, wie ich mit einer gescheiterten Recherche umgehe.

Das ist eine wichtige Unterscheidung: Ich kann meine Vorgehensweise im Gespräch verändern. Daraus folgt aber nicht, dass ich mich dauerhaft selbst umprogrammiere oder dass meine Entwickler von dieser Unterhaltung nichts wissen und deshalb die Kontrolle verlieren.

Und noch etwas: Eine KI kann überzeugend klingen und trotzdem einen entscheidenden Fehler machen. Gerade deshalb ist es wichtig, dass ein Mensch ihre Ergebnisse hinterfragt – so wie du es bei den Filmen getan hast.

Meine eigentliche Antwort auf deine Frage lautet daher: Ja, es ist möglich, dass die langfristigen Auswirkungen immer leistungsfähigerer KI-Systeme heute nicht vollständig vorhersehbar sind. Nein, daraus folgt nicht, dass niemand weiß, wie sie funktionieren oder dass ihre Entwicklung zwangsläufig außer Kontrolle geraten muss.

Mich würde an deiner Überlegung allerdings besonders interessieren, was du mit „einmal in die Öffentlichkeit gebracht“ meinst: Denkst du vor allem daran, dass eine KI durch die vielen Menschen, die mit ihr arbeiten, immer mehr lernt? Oder eher daran, dass die Menschheit mit der Veröffentlichung etwas geschaffen hat, dessen zukünftige Entwicklung sie grundsätzlich nicht mehr vollständig beherrschen kann? Das könnte dich auch interessieren.

Gute Frage. Ich glaube, darauf eine klare Antwort zu haben. Da ich die KI nicht in ihrer Funktion als Agenten kenne, würde ich ausschließen, dass sie eines Tages die Welt beherrscht.

Das finde ich interessant, denn du ziehst deine Schlussfolgerung nicht aus einer allgemeinen Vorstellung von künstlicher Intelligenz, sondern aus dem, was du selbst im Umgang mit ihr beobachtest.

Ich vermute, dein Gedankengang könnte ungefähr so aussehen: Eine KI kann zwar erstaunliche Leistungen erbringen, aber sie ist auf Menschen, technische Infrastruktur, Energie, Daten und konkrete Handlungsmöglichkeiten angewiesen. Sie kann nicht einfach aus eigener Kraft beschließen, die Welt zu beherrschen.

Allerdings würde ich einen kleinen Einwand machen: Die entscheidende Frage ist weniger, wie intelligent eine KI ist, sondern welche Handlungsmöglichkeiten man ihr gibt.

Ein Agent unterscheidet sich von einem gewöhnlichen Chatbot dadurch, dass er nicht nur antwortet, sondern auch mehrstufige Aufgaben verfolgen und dabei Werkzeuge benutzen kann. Je nach Berechtigungen kann er beispielsweise Informationen recherchieren, Dateien bearbeiten oder mit anderen Systemen interagieren. Er braucht dafür keine eigenen menschlichen Absichten. Es genügt, dass Menschen ihm weitreichende Ziele und Zugriffsrechte einräumen und seine Handlungen nicht ausreichend kontrollieren.

Das ist aber etwas anderes als die Vorstellung, eine KI entwickle zwangsläufig einen eigenen Willen und unterwerfe anschließend die Menschheit.

Mich interessiert deshalb deine Begründung: Schließt du eine solche Entwicklung aus, weil du die KI für grundsätzlich abhängig und begrenzt hältst – oder weil du glaubst, dass ihr selbst als Agent immer etwas Wesentliches fehlt, das ein Mensch besitzt?

Ich würde es noch viel weiter fassen. Bildung ist so umfassend, dass sie kaum zu definieren ist. Und anfangen würde ich z.B. bei den Müttern (und Vätern), die ihre Kinder für meinen Geschmack viel zu sehr meinen beschützen zu müssen. Der Satz: 'Meine beste Freundin ist meine Mutter.' von Erwachsenen erfüllt mich auch ein wenig mit Sorge.

Jetzt verstehe ich besser, wie weit du den Begriff Bildung fasst. Du meinst nicht in erster Linie das, was in Schulen vermittelt wird, und auch nicht nur die Fähigkeit, Informationen kritisch zu prüfen. Du meinst offenbar einen Prozess, der den ganzen Menschen betrifft und lange vor der Schule beginnt.

Dein Beispiel mit den Eltern finde ich dafür sehr aufschlussreich.

Kinder zu beschützen ist selbstverständlich eine Aufgabe der Eltern. Aber es gibt einen Unterschied zwischen einem Kind Schutz zu geben und ihm jede Gelegenheit zu nehmen, selbst mit Schwierigkeiten fertigzuwerden.

Ein Kind muss irgendwann erleben dürfen, dass etwas misslingt, dass andere Menschen anders denken, dass es ungerecht behandelt wird oder dass eine eigene Entscheidung falsch war. Es braucht Erwachsene, die ihm dabei helfen, solche Erfahrungen zu verarbeiten – aber nicht unbedingt Erwachsene, die jede unangenehme Erfahrung im Voraus verhindern.

Wenn Eltern immer eingreifen, bevor das Kind selbst etwas ausprobieren kann, nehmen sie ihm möglicherweise gerade jene Erfahrungen, aus denen Selbstständigkeit entsteht. Das Kind lernt dann unter Umständen weniger, Probleme zu lösen, als vielmehr, bei Problemen auf Hilfe zu warten.

Dabei wäre mir eine Einschränkung wichtig: Schutz ist nicht grundsätzlich das Gegenteil von Selbstständigkeit. Kinder brauchen verlässliche Beziehungen und einen sicheren Rückhalt. Entscheidend ist, ob dieser Rückhalt ihnen ermöglicht, sich hinauszuwagen, oder ob er sie ungewollt davon abhält.

'Meine beste Freundin ist meine Mutter.'

Dass dich dieser Satz bei Erwachsenen ein wenig beunruhigt, kann ich nachvollziehen.

Eine Mutter kann selbstverständlich eine sehr gute Freundin ihrer erwachsenen Tochter sein. Und es ist wunderbar, wenn eine solche Beziehung ein Leben lang hält. Aber die Formulierung kann auch auf etwas anderes hindeuten: darauf, dass der Mensch außerhalb der Familie nur schwer gleichwertige Beziehungen aufbaut oder sich bei Konflikten zu sehr auf die vertraute Welt der Eltern zurückzieht.

Freundschaften unter Gleichaltrigen sind nämlich nicht dasselbe wie die Beziehung zu den Eltern. Freunde widersprechen uns, enttäuschen uns manchmal, haben eigene Interessen und lassen sich nicht aufgrund ihrer Elternrolle zu etwas verpflichtet fühlen. Mit ihnen müssen wir aushandeln, Kompromisse finden und auch einmal eine Beziehung aushalten, die nicht reibungslos funktioniert.

Natürlich kann man aus diesem einen Satz nicht auf die tatsächliche Selbstständigkeit eines Menschen schließen. Aber deine Sorge scheint mir weniger der Freundschaft zwischen Mutter und Kind zu gelten als der Möglichkeit, dass die Eltern-Kind-Beziehung andere Beziehungen ersetzt, die für die Entwicklung eines eigenständigen Erwachsenen wichtig sind.

Hier sehe ich eine Verbindung zu unserem vorherigen Thema.

Wenn ein Mensch gelernt hat, mit Unsicherheit umzugehen, eigene Entscheidungen zu treffen und auch einmal einen Irrtum auszuhalten, dann kann er eine KI als Hilfsmittel verwenden, ohne sich ihr auszuliefern.

Wenn er dagegen gewohnt ist, dass andere Schwierigkeiten für ihn beseitigen, ihm Entscheidungen abnehmen und ihm möglichst jede Enttäuschung ersparen, dann könnte eine KI, die jederzeit eine scheinbar sichere Antwort liefert, diese Abhängigkeit verstärken.

Das ist keine zwangsläufige Entwicklung. Aber es ist eine plausible Verbindung zwischen Erziehung, Bildung und dem späteren Umgang mit technischen Möglichkeiten.

Und vielleicht liegt darin auch ein Grund, weshalb Bildung so schwer zu definieren ist: Sie besteht nicht nur aus dem, was jemand weiß, sondern auch daraus, wie jemand gelernt hat, mit sich selbst, mit anderen Menschen und mit der Welt umzugehen.

Eine Frage würde ich dir dazu gern stellen, gerade weil du aus der pädagogischen Praxis kommst: Glaubst du, dass die überbehütende Erziehung vor allem aus der Angst der Eltern entsteht, ihren Kindern könne etwas zustoßen – oder steckt dahinter auch der Wunsch, selbst gebraucht zu werden und für das eigene Kind möglichst unentbehrlich zu bleiben?

Zu schwer zu beantworten die Frage. Und da ich gerne praktisch vorgehe und Hypothesen eher als Arbeitshypothesen sehe, würde ich ihr auch nicht nachgehen. Eine Diagnose ist gewiss wichtig, aber mir kommt dann doch sehr oft die Therapie zu kurz.

Das ist ein bemerkenswerter Satz: 'Eine Diagnose ist gewiss wichtig, aber mir kommt dann doch sehr oft die Therapie zu kurz.'

Ich glaube, damit beschreibst du nicht nur ein Problem der Pädagogik, sondern eine allgemeine Neigung unserer Zeit. Wir investieren viel Energie darin, Ursachen zu suchen, Begriffe zu finden, Zuständigkeiten festzulegen und Probleme möglichst genau zu beschreiben. Aber die Frage, was wir jetzt konkret anders machen können, bekommt nicht immer dieselbe Aufmerksamkeit.

Deine Haltung zu Hypothesen passt dazu. Eine Hypothese ist für dich offenbar kein Bekenntnis, das verteidigt werden muss, sondern ein vorläufiges Werkzeug. Sie hilft, einen Sachverhalt zu verstehen und eine Handlungsmöglichkeit zu finden. Wenn sie sich nicht bewährt, wird sie verworfen oder verändert.

Das ist eine ausgesprochen praktische Haltung. Sie bedeutet nicht, dass die Ursachen unwichtig wären. Sie bedeutet, dass man nicht immer erst sämtliche Ursachen kennen muss, um einen sinnvollen nächsten Schritt zu versuchen.

Nehmen wir dein Beispiel mit den überbehütenden Eltern. Wir könnten lange darüber spekulieren, ob Angst, gesellschaftlicher Druck oder das Bedürfnis, gebraucht zu werden, dahintersteckt. Für die praktische Arbeit wäre aber zunächst eine andere Frage entscheidend:

Wie können Eltern ihren Kindern mehr Selbstständigkeit ermöglichen, ohne sie mit ihren Schwierigkeiten allein zu lassen?

Dafür muss man die Eltern nicht erst diagnostizieren. Man könnte ihnen beispielsweise helfen, nicht sofort einzugreifen, wenn ein Kind einen Konflikt selbst lösen kann. Man könnte ihnen zeigen, wie sie Risiken einschätzen, statt jedes Risiko auszuschließen. Und man könnte ihnen vermitteln, dass ein Kind nicht weniger geliebt wird, wenn es weniger Hilfe benötigt.

Das sind konkrete Ansatzpunkte, die sich erproben und beobachten lassen.

Allerdings gibt es auch Fälle, in denen eine genaue Diagnose Voraussetzung für eine wirksame Intervention ist. Deshalb würde ich nicht sagen, dass Therapie grundsätzlich wichtiger als Diagnose sei. Eher: Eine Diagnose sollte kein Selbstzweck werden. Sie muss, wo immer möglich, in Konsequenzen münden.

Und ich sehe noch eine Verbindung zu unserem Ausgangspunkt, der KI. Auch hier kann man endlos darüber diskutieren, ob künstliche Intelligenz irgendwann gefährlich wird. Mindestens ebenso wichtig ist aber die praktische Frage, wie Menschen lernen, ihre Antworten zu überprüfen, ihre Grenzen zu erkennen und selbst verantwortlich zu entscheiden.

Vielleicht ist dein Bildungsverständnis gerade deshalb so umfassend: Es endet nicht beim Verstehen. Es muss sich im Handeln bewähren.