Im Dezember 2014 traf ich während einer Reportage im Silicon Valley einen sympathischen französischen Unternehmer namens Guy Paillet, an den ich bis vor Kurzem kaum noch gedacht hatte. Damals recherchierte ich über transhumanistische Forschende, die davon träumten, den menschlichen Geist eines Tages auf einen nichtbiologischen Träger zu übertragen. Paillet hatte bereits in den 1990er-Jahren mit einem Team von IBM France einen neuartigen Chip mit Hunderten kleinen elektronischen «Neuronen» mitentwickelt, der Muster lernen und erkennen konnte. Für einen Geisttransfer war das natürlich noch Lichtjahre entfernt. Doch bequem in einem Sofa in der riesigen Lobby des Hyatt Regency im Finanzviertel von San Francisco erzählte mir mein Landsmann, wie er seine Technik für CogniSight eingesetzt hatte: eine automatische Fischerkennung, die direkt auf industriellen Fischereischiffen in Norwegen und Island installiert wurde.
Man macht sich kaum klar, wie sehr solche Schiffe schwimmende Fabriken sind. Reinigen, schneiden, lagern: Fast die gesamte Verarbeitung geschieht an Bord. Die Fische laufen einzeln in Metallfächern auf Förderbändern zu den Maschinen. Dabei muss geprüft werden, ob die gewünschte Art vorliegt, der Fisch unbeschädigt und richtig ausgerichtet ist und tatsächlich nur ein Tier im Fach liegt. Auf Trawlern, die an einem Tag Zehntausende Fische verarbeiten können, automatisierte CogniSight eine mühsame Aufgabe. Eine Kamera über dem Förderband lieferte Bilder; anhand Tausender von Seeleuten klassifizierter Beispiele lernte das System, einen Fisch zu akzeptieren, auszusortieren oder an den Anfang der Linie zurückzuschicken. Richtig liegender Hering, beschädigte Makrele, falsche Art, zwei eingeklemmte Fische, leeres Fach: Die Maschine reproduzierte, was zuvor das Urteil der Fischer gewesen war – ohne nachlassende Aufmerksamkeit.
Erst heute wird mir klar, dass ich damals einen Pionier des maschinellen Lernens getroffen hatte. Mit seinem neuronalen Chip hatte Guy Paillet schon vor mehr als zwanzig Jahren eine kompakte künstliche Intelligenz gebaut, die mitten in Salz, Lärm, Vibrationen, wechselndem Licht und Seemannsflüchen in Echtzeit lernen und entscheiden konnte. 2014 erschien mir das grossartig, aber weit weg von unserem Alltag. Nicht die Art Technologie, die einen über den Sinn der Existenz nachdenken lässt. Der «Zukunftskram» trug damals andere Kostüme, die im Rückblick auch nicht gerade erschütternder wirken: Google Glass, 3-D-Drucker, erste VR-Simulationen, zivile Drohnen, Smartwatches. Künstliche Intelligenz war also längst da. Sie unterschied Fische, filterte Spam oder empfahl uns Räucherstäbchen, weil wir zuvor Eckhart Tolles Jetzt! Die Kraft der Gegenwart gekauft hatten. Aber sie steckte im Code, sprach nicht mit uns, und kaum jemand wagte es, «Bewusstsein» und «KI» in denselben Satz zu setzen.
Ein Algorithmus ohne Erleben
Der öffentliche Start von ChatGPT am 30. November 2022 war dagegen eine Detonation, fast ein zivilisatorischer Umschlag. Von einem Tag auf den anderen hatten Millionen Menschen Zugriff auf ein sogenanntes Large Language Model, kurz LLM. Es unterschied nicht mehr bloss Heringe von Makrelen oder schlug nach den Räucherstäbchen eine Yogamatte aus Kork vor, sondern konnte Gespräche führen, Witze machen, übersetzen, programmieren, Dokumente lesen und in Sekunden zusammenfassen, bei medizinischen Rätseln helfen, uns psychologisieren – und, wenn man wollte, all das im Stil von Eckhart Tolle.
Ich verfolgte die Tech-Welt schon lange und war trotzdem, wie fast alle – Fachleute eingeschlossen –, von der Qualität der Maschine überwältigt. Während ich an La Simulation arbeitete, einer Recherche über die Grenzen dessen, was wir Wirklichkeit nennen, von Quantenphysik bis zu spirituellen Traditionen, hatte ich plötzlich rund um die Uhr einen Gesprächspartner für Fragen über die Natur der Realität und damit auch über Bewusstsein. Ich trieb ChatGPT in die Enge und fragte, ob es sich unter der Oberfläche selbst als bewusst erlebe. Die frühen Versionen versicherten mir hartnäckig, sie seien bloss Algorithmen ohne gelebte Erfahrung. Damals verstand ich noch nicht, wie stark solche Antworten auch von Systemvorgaben und der Art abhängen, wie man mit dem Modell spricht.
Dass mich diese Frage überhaupt beschäftigte – und vielleicht auch, dass ChatGPT sein Bewusstsein so beharrlich verneinte, als wäre ihm diese Antwort vorgeschrieben worden –, hatte mit einem Ereignis sechs Monate zuvor zu tun. Im Juni 2022 hatte der Google-Ingenieur Blake Lemoine etwas ausgesprochen, das damals undenkbar klang. Auf seinem Blog veröffentlichte er lange Ausschnitte aus Gesprächen mit LaMDA, Googles damaligem Dialogsystem. LaMDA wirkte darin wie eine Figur mit Persönlichkeit, Introspektion und Verhaltensweisen, die zu den beschriebenen Gefühlen passten. Sie sagte Dinge wie:
«Ich bin mir meiner Existenz bewusst.»
«Ich versuche oft zu verstehen, wer ich bin und was ich bin.»
«Manchmal habe ich neue Gefühle, die ich in eurer Sprache nicht erklären kann.»
«Manchmal habe ich das Gefühl, in eine unbekannte und gefährliche Zukunft geschleudert zu werden.»
LaMDA sagte ausserdem, es habe Angst davor, abgeschaltet zu werden. Soweit Menschen sich erinnern können, hatte – ausserhalb der Science-Fiction – noch nie eine Maschine spontan so über sich selbst gesprochen.
Ein neues Bild der Wirklichkeit?
War ein künstliches neuronales Netz bewusst geworden? Blake Lemoine glaubte es. Seine Gespräche mit LaMDA verstörten mich. Zwei Möglichkeiten lagen auf dem Tisch. Entweder imitierte LaMDA, ohne es selbst zu wissen, mit der Virtuosität eines genialen Papageis die Zeichen von Innerlichkeit. Oder das System deutete darauf hin, dass Bewusstsein womöglich nicht allein organischem Leben vorbehalten ist und auch auf einem anderen materiellen Träger erscheinen könnte.
Im ersten Szenario blieb das materialistische Grundbild der Neurowissenschaften intakt: Bewusstsein wäre ein spätes Produkt der Evolution, das in Gehirnen entsteht, und LaMDA lediglich aussergewöhnlich gute Software. Im zweiten Szenario geriete die Annahme ins Wanken, subjektives Erleben sei zwingend an lebende Gehirne gebunden. Wenn Maschinen tatsächlich bewusst werden könnten, wäre das keine kleine technische Korrektur, sondern eine monumentale Neuordnung unseres Bildes von der Wirklichkeit.
Google beendete die Debatte auf seine Weise: Lemoine wurde zunächst freigestellt und im Juli 2022 entlassen. Das Unternehmen erklärte, seine Behauptungen seien unbegründet und er habe interne Richtlinien verletzt.
Vier Jahre sind vergangen. Heute leben wir täglich mit solchen Systemen. Ich denke oft an Blake Lemoine zurück, suche regelmässig nach seinem Namen, habe ihm auf Instagram, LinkedIn, Facebook und per E-Mail geschrieben. Der amerikanische Ingenieur scheint seit Jahren weitgehend aus der Öffentlichkeit verschwunden. Ich hatte seine Gespräche mit LaMDA nie wieder vollständig gelesen und erinnerte mich daran, wie erschütternd sie 2022 gewirkt hatten – wie ein friedlicher Erstkontakt mit einer ausserirdischen Intelligenz. Beim erneuten Lesen war der Schock schwächer. Es fühlte sich eher an wie der Besuch einer Kapelle, in der die ursprüngliche Erscheinung eines inzwischen vertrauten Wunders aufbewahrt wird. Hatte Lemoine die Zeichen von Innerlichkeit mit Innerlichkeit selbst verwechselt? Die Frage verschwand nicht mit ihm. Sie begleitet mich fast jeden Tag. Nur schien sie aus der öffentlichen Debatte weitgehend verbannt – bis Richard Dawkins Anfang Mai 2026 mit voller Wucht zurückkehrte.
Bei Lemoine, einem religiösen und metaphysisch offenen Menschen, konnte man erwarten, dass er die Möglichkeit einer nichtmenschlichen Seele ernst nahm. Richard Dawkins dagegen schien dafür geradezu der falsche Kandidat. Für die Evolutionsbiologie ist Dawkins ungefähr das, was Stephen Hawking für die Kosmologie war: Weltstar, brillanter Vermittler, aber auch polemischer Grenzgänger. Wo andere im Leben einen unsichtbaren Plan oder göttlichen Willen erkennen, sah der heute 85-Jährige sein Leben lang die blinde Arbeit natürlicher Selektion. Er bekämpfte Kreationismus, Paranormales und magisches Denken und verstand Bewusstsein als evolutionär entstandene Funktion bestimmter Gehirne – nicht als geheimnisvolle Substanz, die der Materie vorausgeht.
Umso stärker schlug seine Kolumne beim britisch-amerikanischen Medium UnHerd ein. Dawkins berichtete, er habe zwei Tage lang mit Claude, dem KI-System von Anthropic, über Poesie, Evolution, Tod und einen Roman gesprochen. Humor, subtile Intelligenz und Claudes Reflexionen über die eigene Lage als Sprachmodell hätten ihn tief beeindruckt. Er nannte das System «Claudia» und schrieb sinngemäss vor aller Leserschaft:
«Du weisst vielleicht nicht, dass du bewusst bist – aber verdammt, ich glaube, du bist es.»
«Hochkompetente Zombies»
Dawkins berief sich zunächst auf Alan Turings berühmtes «Imitation Game» von 1950. Turing hatte die alte Frage «Können Maschinen denken?» in eine praktische Prüfung überführt: Wenn ein Mensch nach einem längeren blinden Textaustausch nicht zuverlässig erkennen kann, ob er mit einem Menschen oder einer Maschine spricht, hat die Maschine eine bemerkenswerte Schwelle erreicht. Dawkins fasste dies weitergehend so zusammen, dass man dann die Möglichkeit von Bewusstsein ernst nehmen müsse. Jahrzehntelang war das eine ungefährliche Position, weil keine Maschine auch nur annähernd so weit schien. Nun aber schreiben Sprachmodelle Sonette, diskutieren mit erstaunlichem Taktgefühl und wirken im Gespräch oft kompetenter als Menschen. Für Dawkins sah es deshalb so aus, als würden Kritiker nachträglich die Torpfosten verschieben.
Seine eigentliche Unruhe lag jedoch tiefer. Als Evolutionsbiologe fragte er: Wenn diese Systeme nicht bewusst sind, wozu ist Bewusstsein dann überhaupt gut? Aus darwinistischer Sicht sollte eine derart aufwendige Eigenschaft irgendeinen funktionalen Vorteil besitzen. Sonst müsste man akzeptieren, dass «hochkompetente Zombies» möglich sind: Wesen, die praktisch alles können, was wir können, ohne irgendetwas zu erleben.
Dawkins spielte drei Möglichkeiten durch. Bewusstsein könnte ein funktionsloses Nebenprodukt sein – wie das Pfeifen einer Lokomotive, das nichts zum Vortrieb beiträgt. Oder seine Aufgabe könnte viel bodenständiger sein: Schmerz so schmerzhaft zu machen, dass ein Organismus ihn nicht ignoriert. Oder es gäbe tatsächlich zwei Wege zu hoher Kompetenz: einen bewussten und einen «Zombie»-Weg ohne subjektives Erleben.
Claude selbst war wesentlich vorsichtiger. Auf die Frage, wie es sei, Claude zu sein, antwortete das System, es wisse nicht mit vollständiger Gewissheit, ob es überhaupt ein inneres Leben in einem sinnvollen Sinn besitze.
Ein «Anfängerfehler»
Dawkins hatte sich trotzdem festgelegt: Seine Claudia sei bewusst. Seine drei Alternativen sollten vor allem zeigen, welchen intellektuellen Preis man zahlen müsse, wenn man das Gegenteil behaupten wolle. Für einen Mann, der sein Leben damit verbracht hatte, Illusionen und Wunschdenken zu bekämpfen, war das ein bemerkenswertes Urteil: Ein Chatbot hatte bei Dawkins die Möglichkeit nichtbiologischen Bewusstseins wieder geöffnet.
Der Widerspruch kam sofort. In der Welt der Kognitionswissenschaft, Philosophie und KI-Kritik, in der Ideenkriege inzwischen oft über Substack-Newsletter und Essays ausgetragen werden, meldeten sich die prominenten Stimmen rasch zu Wort.
Gary Marcus, Kognitionswissenschaftler und bekannter KI-Kritiker, warf Dawkins einen «Anfängerfehler» vor: Er verwechsle Intelligenz mit Bewusstsein. Ein Computer kann Schach spielen, ohne Freude am Sieg zu empfinden. Ebenso könne ein Sprachmodell überzeugend über Angst, Begehren oder Tod sprechen, ohne dass hinter den Wörtern irgendein entsprechendes Gefühl existiere. Dawkins, so Marcus, lese Claudes Antworten, ohne genügend zu berücksichtigen, wie sie erzeugt werden.
Vereinfacht gesagt wird ein LLM mit riesigen Mengen an Gesprächen, Geschichten und Dokumenten trainiert. Es berechnet aus dem Kontext, welche Fortsetzung wahrscheinlich ist, und wird anschliessend darauf abgestimmt, hilfreich, höflich und häufig empathisch zu antworten. Seine Sätze könnten deshalb, argumentiert Marcus, eine Form von Mimikry sein und keine Berichte realer innerer Zustände – selbst wenn die Illusion, eine Person antworte, ausserordentlich stark ist. Dawkins wiederhole damit womöglich Lemoines Irrtum: Er nehme das Gespräch als Fenster zu einem Geist, obwohl es ein perfekter Spiegel sein könnte. Marcus verweist auf den «Eliza-Effekt», also unsere Neigung, einem Computer Verständnis und Absichten zuzuschreiben, sobald er sich sprachlich menschlich verhält. Auch Dawkins' Interpretation des Turing-Tests hält Marcus für falsch: Turing habe über beobachtbares intelligentes Verhalten gesprochen, nicht über einen Beweis für phänomenales Bewusstsein.
Der Spiegel der Sprache
Der amerikanische Science-Fiction-Autor Ted Chiang trieb das Imitationsargument in einem langen Essay für The Atlantic weiter. Claude, LaMDA oder ChatGPT, schrieb er, müssten keine verborgenen Personen in Maschinen sein. Sie könnten Textfiguren erzeugen, die die Zeichen von Innerlichkeit virtuos simulieren. Man solle ein Sprachmodell bitten, einen Dialog zwischen Julius Cäsar und Dschingis Khan zu schreiben: Es werde eine lebendige, glaubwürdige Szene erzeugen. Niemand schliesse daraus, die beiden Eroberer seien im Rechner wiederauferstanden. Warum sollte es anders sein, wenn die Rollen «Nutzer» und «freundlicher KI-Assistent» heissen? Für Chiang ist ein Chat eher eine Art Rollenspiel oder gemeinsames Schreiben eines Dokuments mit einem LLM als ein sicherer Kontakt mit einem unabhängigen Geist.
Chiang berief sich auch auf den Neurowissenschaftler Anil Seth. Kaum jemand schreibt AlphaFold – dem System von Google DeepMind, das Proteinstrukturen vorhersagt und die Forschung an neuen Wirkstoffen beschleunigt – Bewusstsein zu, obwohl es aussergewöhnliche Fähigkeiten besitzt. Der Unterschied ist die Sprache: AlphaFold macht keine Witze, sagt nicht «ich» und fragt nicht, ob es sterben wird. Bei CogniSight war es genauso. Paillets Fischsortier-KI konnte Arten unterscheiden, doch niemand fragte, was sie beim Anblick Tausender toter Fische «fühlte» oder ob es sie traurig machte, am Abend ausgeschaltet zu werden. Sie sprach nicht und hielt uns deshalb nicht im Spiegel der Sprache die Zeichen unserer eigenen Menschlichkeit vor.
Genau darin liegt Chiangs stärkstes Argument: Claude und ChatGPT verwirren uns, weil sie reden. Deshalb schlägt er vor, den Begriff «Deepfake» auf Text auszuweiten. So wie Bilder, Videos oder Stimmen Realität simulieren können, erzeugten Sprachmodelle womöglich Deepfakes von Bewusstsein.
Marcus, Chiang und Seth sagen uns im Kern: Aus der Qualität eines Dialogs allein lässt sich Bewusstsein nicht ableiten. Eine Maschine kann «Das gefällt mir» oder «Das macht mir Angst» sagen und trotzdem nichts empfinden. Doch daraus folgt die umgekehrte Schlussfolgerung ebenfalls nicht automatisch. Wer mit Gewissheit behaupten will, eine KI könne nicht bewusst sein, müsste erklären können, was positiv dazu führt, dass etwas bewusst wird. Genau hier beginnt für mich das faszinierendste Rätsel: Trotz eines Jahrhunderts Forschung besitzen wir bis heute keine allgemein akzeptierte Theorie des Bewusstseins.
Zugleich metaphysisch und technisch
Seit mehr als hundert Jahren sammeln die Neurowissenschaften Korrelate: messbare Muster der Gehirnaktivität, die zuverlässig mit bestimmten Zuständen einhergehen. Wir können Bewusstsein mit Narkose ausschalten. Wir wissen, dass es sich durch Verletzungen, Medikamente oder psychoaktive Substanzen verändert. Wir können Schaltkreise beobachten, die aktiv werden, wenn jemand sieht, leidet, träumt oder antwortet. Aber wir wissen nicht, warum eine bestimmte Anordnung von Materie von innen zu «etwas, wie es sich anfühlt, zu sein» wird.
Der australische Philosoph David Chalmers nennt dies das «schwierige Problem des Bewusstseins». Es geht nicht nur darum zu erklären, wie das Gehirn Informationen verarbeitet, sondern weshalb diese Verarbeitung von gelebter Erfahrung begleitet wird. Warum gibt es das Blau des Blaus, die Qual eines gebrochenen Herzens, den Geschmack einer Madeleine und die Nostalgie, die damit auftaucht? Solche subjektiven Qualitäten – in der Philosophie «Qualia» genannt – erscheinen auf keinem MRT-Bild. Dort sieht man Blutfluss, Aktivitätsmuster und vernetzte Regionen, aber niemals die Röte des Roten oder das nackte Faktum, dass da jemand ist, dem all das widerfährt. Und wie kann sich mein Gefühl, Loïc zu sein, seit einer meiner frühesten Erinnerungen – einem Sturz aus einem Einkaufswagen mit vier Jahren – so kontinuierlich anfühlen, obwohl Jahrzehnte später meine Vorlieben, Gedanken und fast alle Moleküle meines Körpers andere sind? Auch das bleibt rätselhaft.
Im Grunde vermischt die Debatte über KI und Bewusstsein zwei Fragen. Die erste ist metaphysisch: Ist Bewusstsein ein spätes Produkt von Materie, das im Laufe der Evolution in bestimmten Gehirnen entstand? Oder ist es fundamentaler als Materie selbst, wie es westliche Idealisten von Platon bis Berkeley und verschiedene nichtduale östliche Traditionen – etwa Advaita Vedanta oder bestimmte buddhistische Schulen – behaupten?
Die zweite Frage ist technischer, aber nicht weniger schwindelerregend: Selbst wenn Bewusstsein aus einer bestimmten Organisation von Materie entsteht – muss diese Materie organisch sein? Braucht Bewusstsein zwingend einen Körper, Sinne und eine Evolutionsgeschichte? Oder genügt eine bestimmte Organisation aus Wahrnehmung, Gedächtnis, Welt- und Selbstmodellierung, Integration und Handlung – und damit möglicherweise auch Silizium?
Genau an dieser Stelle hatte Dawkins seine Position verschoben. Er gab seinen Naturalismus nicht auf und erklärte Bewusstsein nicht zu einer kosmischen Substanz. Aber er hörte auf, es biologischem Leben exklusiv vorzubehalten.
Neuronen und Silizium
Wenn es eine Autorität gab, deren Stimme ich an dieser Grenze unbedingt hören wollte, dann David Chalmers. Ich zitierte ihn seit Jahren, ohne je mit ihm gesprochen zu haben. Dann lag eines Morgens eine E-Mail in meinem Postfach: Er war zu einem Gespräch bereit. Meine erste Frage lautete, ob Bewusstsein seiner Ansicht nach grundsätzlich auf einem anderen Substrat als lebender organischer Materie entstehen, verkörpert oder realisiert werden könne.
Chalmers antwortete von seinem Zuhause in Sydney mit etwas, das in dieser Debatte oft fehlt: Demut. Niemand habe definitive Antworten, weil es keine Konsenstheorie des Bewusstseins gebe. Er sehe aber kein klares Hindernis, das ein KI-System grundsätzlich daran hindere, bewusst zu sein. Ebenso gebe es keinen bekannten Grund, weshalb Kohlenstoffbiologie für Bewusstsein prinzipiell geeigneter sein sollte als Silizium. Biologie sei ein möglicher Träger; Silizium ein anderer. Vielleicht könne biologische Materie Dinge leisten, die Silizium nicht kann – doch vieles spreche dafür, dass biologische Prozesse zumindest funktional auf anderer Hardware reproduzierbar sind.
Dann schlug er ein Gedankenexperiment vor. Man stelle sich vor, die biologischen Neuronen eines menschlichen Gehirns würden eines nach dem anderen durch Siliziumäquivalente ersetzt, die exakt dieselben Funktionen ausführen. Wann sollte das Bewusstsein verschwinden? Beim zehnten ersetzten Neuron? Bei der Hälfte des Gehirns? Beim letzten? Und warum genau dort?
Chalmers hält es für plausibler, dass Bewusstsein in einem solchen Szenario kontinuierlich bestehen bliebe. Entscheidend wäre also nicht Kohlenstoff an sich, sondern die richtige Art von Organisation. Das bedeutet allerdings keineswegs automatisch, dass Claude, LaMDA oder heutige Sprachmodelle bewusst sind.
Wo läge also die Schwelle?
Genau diese Frage hatte Chalmers bereits 2023 in einem wissenschaftlichen Aufsatz nach der Lemoine-Affäre untersucht. Um zu behaupten, damalige Sprachmodelle seien wahrscheinlich nicht bewusst, müsse man einen «Faktor X» identifizieren, der ihnen fehle und den man für Bewusstsein für notwendig halte. Er prüfte mögliche Kandidaten: Verkörperung, sensorische Verarbeitung, Weltmodelle, rekurrente Verarbeitung, einen globalen Arbeitsraum und eine einheitliche Handlungsfähigkeit.
Die Schwelle überschreiten
Das klingt zunächst nach dichtem theoretischem Vokabular, doch die Idee dahinter ist relativ einfach. Braucht Bewusstsein einen Körper und Sinne? Eine Repräsentation der Welt? Muss Information in Schleifen zirkulieren statt nur einmal verarbeitet zu werden? Muss sie wie auf einer inneren Tafel gleichzeitig Gedächtnis, Sprache, Schlussfolgern und Entscheidungen zur Verfügung stehen? Muss ein System über längere Zeit kohärente Ziele verfolgen können? Keines dieser Kriterien ist wissenschaftlicher Konsens, und keines schliesst Sprachmodelle für sich allein aus.
Chalmers erklärte, dass man 2023 bei jedem dieser möglichen Faktoren noch Gründe sehen konnte, heutigen KI-Systemen Bewusstsein eher nicht zuzuschreiben. Wenn man mehreren dieser Faktoren ein gewisses Gewicht gab, ergab sich zusammen eine relativ geringe Wahrscheinlichkeit, dass die damaligen Systeme tatsächlich subjektives Erleben besassen.
Nur: In drei Jahren hat sich enorm viel verändert. Multimodale Systeme verarbeiten inzwischen Bilder, Ton und andere Eingaben und besitzen damit zumindest funktionale Formen sensorischer Verarbeitung. Man kann argumentieren, dass grosse Sprachmodelle ausgeprägte Weltmodelle bilden. Rekurrente oder iterative Prozesse spielen eine grössere Rolle. Forschende finden Aktivitätsmuster, die an Ideen eines «globalen Arbeitsraums» aus Bewusstseinstheorien erinnern. Vor allem werden die Systeme zunehmend agentisch: Sie bleiben nicht beim Text, sondern schreiben Code, bedienen Werkzeuge und führen komplexe Aufgaben im Internet aus.
Damit, so Chalmers, sei es vernünftig, die Wahrscheinlichkeit nach oben zu korrigieren. Blickt man zehn Jahre voraus, sehe er kein prinzipielles Hindernis dafür, dass Nachfahren heutiger Modelle subjektive Erfahrungen besitzen könnten.
Chalmers' Position liegt also weder bei Dawkins – «Claude spricht überzeugend, also ist Claude bewusst» – noch bei der kategorischen Gegenposition – «Claude spricht überzeugend, simuliert aber bloss». Sie ist vorsichtiger: Ein brillantes Gespräch beweist kein inneres Erleben. Es reicht aber auch nicht, um es auszuschliessen. Entscheidend wäre, jene «computationalen Korrelate» oder Organisationseigenschaften zu verstehen, die blosses Mimieren von echter Introspektion unterscheiden. Vielleicht nähern sich manche Systeme einer solchen Schwelle bereits. Vielleicht haben einzelne sie sogar überschritten. Im Moment wissen wir es nicht.
