BERKELEY / LONDON (IT BOLTWISE) – Michael Pollan beschreibt, warum Bewusstsein nicht einfach als technisch messbares Feature zu behandeln ist. Er warnt davor, „Superintelligenz“ als Versprechen zu sehen und ordnet das menschliche Erleben gegen KI-Erklärungen ab. Im Gespräch geht es zudem um konkrete Alltagsfragen: welche Inhalte er nie mit einem Chatbot teilen würde. Gerade KI-Agenten seien seiner Sicht nach heute noch nicht wirklich kontrollierbar.
Michael Pollan sitzt in Berkeley bei einem Stück Zitronenkuchen – und lenkt das Gespräch dennoch sehr schnell auf das größte Rätsel der Menschheit: das Bewusstsein. Interessant ist dabei weniger die philosophische Distanz, sondern die Art, wie er den Einstieg wählt. Er erzählt von Beobachtungen, bei denen der eigene Verstand zunächst Neigung hat, Begriffe zu überdehnen: Quallen im Aquarium von Monterey „wirken“ auf ihn, als hätten sie ein Bewusstsein. Genau an diesem Punkt setzt Pollan eine methodische Bremse: Er spricht bei solchen Lebewesen lieber von Empfindungsfähigkeit, weil sich damit besser beschreiben lässt, wie Organismen auf Umweltreize reagieren – und nicht, wie plausibel es ist, ihnen menschähnliches Erleben zuzuschreiben.
Seine zentrale Unterscheidung läuft auf eine alltägliche Erkenntnistheorie hinaus. Empfindungsfähigkeit meint für Pollan die Fähigkeit des Lebens, in der Umgebung „gut oder schlecht“ zu erkennen und darauf zu reagieren. Diese Eigenschaft gibt es laut seiner Darstellung universell, aber sie zeigt sich in unterschiedlichen Formen, abhängig von Körperbau und Sinnesapparat. Hunde erleben nach seiner Logik auf ihre Weise, Quallen auf eine andere. Für die Technikdebatte ist das deshalb relevant, weil KI-Systeme heute häufig so erklärt werden, als ließe sich Verhalten automatisch mit Bewusstsein gleichsetzen. Pollans Argument setzt dem die Idee entgegen, dass Reaktionen und Zuschreibungen nicht automatisch identisch sind.
Von dieser biologischen Perspektive führt der Gesprächsstrang unmittelbar zur Frage, wie KI in Konversationen tatsächlich wirkt. Pollan spricht über „Gefühle in KI“ und darüber, wie Dialoge mit einem KI-System wie Claude zustande kommen. Das Entscheidende ist: Er behandelt den Dialog nicht als Beweis für innere Zustände der Maschine, sondern als Spiegel menschlicher Erwartungen. Wer eine Antwort produziert, kann bei Menschen emotionale Deutungen auslösen – auch wenn die Maschine keine eigenen inneren Zustände „erlebt“. Dadurch entsteht eine riskante Dynamik: Je überzeugender die Formulierungen, desto leichter wird Bewusstsein als Erklärungsmodell missverstanden.
In diese Richtung passt auch Pollans zugespitzte Einschätzung zur „Superintelligenz“. Er wird mit der Aussage zitiert: „Superintelligenz ist einfach Marketing“. Als Technologiefokus gelesen heißt das nicht, dass Leistungssteigerungen unmöglich wären, sondern dass die Vermarktung oft schneller läuft als die belastbare Einordnung dessen, was Systeme leisten und was nicht. Genau hier wird auch der Bogen zu Agenten geschlagen: Pollan stellt heraus, dass man diese KI-Agenten „schon heute“ nicht zuverlässig kontrollieren könne. Der Satz wirkt wie eine Warnung vor einem Übersetzen von Experimenten in Betriebssicherheit – denn Agenten operieren typischerweise autonomer, greifen mehr Umgebungszustände an und verknüpfen Aktionen über mehrere Schritte hinweg.
Damit rückt die technische Kernfrage in den Vordergrund, die in solchen Gesprächen selten genügend Raum bekommt: Kontrolle ist kein einzelnes Schalter-Feature, sondern eine Kette aus Überwachung, Begrenzung und Nachvollziehbarkeit. Wenn ein System Aufgaben in mehreren Schritten plant, führt, beobachtet und nachjustiert, braucht es klare Grenzen für Ziele, Zugriff und Abbruchkriterien. Gleichzeitig müssen Teams verstehen, warum das Modell eine bestimmte Handlung gewählt hat. Pollans Haltung wirkt in diesem Licht wie ein Forderung nach konservativerer Operationalisierung: Nicht erst beim „großen Sprung“, sondern schon bei den heutigen Agenten mit ihren lokalen Entscheidungen und ihren möglichen Fehlanreizen.
Auch die persönliche Ebene ist dabei kein Nebenschauplatz. Pollan beschreibt, dass es Teile seines Lebens gibt, die er nie mit einem Chatbot teilen würde. Für Organisationen klingt das zunächst wie ein Privatheitsstatement – in der KI-Praxis bedeutet es aber vor allem: Menschen setzen Grenzen dort, wo Inhalte schwer rückholbar oder kontextanfällig sind. Damit wird deutlich, wie stark UX-Design, Datenflüsse und die Erwartung an Vertraulichkeit zusammenhängen. Unternehmen, die KI-gestützte Assistenten einsetzen, müssen deshalb nicht nur Modelle trainieren, sondern vor allem klare Regeln definieren, welche Informationen in welchem Kontext überhaupt in ein System gelangen dürfen.
Aus technischer und strategischer Sicht lässt sich aus Pollans Gespräch eine doppelte Konsequenz ziehen. Erstens sollten KI-Systeme nicht als Ersatz für ein Verständnis des Erlebens interpretiert werden, weil „Reaktion“ nicht automatisch „Bewusstsein“ bedeutet. Zweitens ist die Vermarktung von Fortschritten – auch wenn sie real sind – weniger entscheidend als die Frage, ob Agentenprozesse zuverlässig begrenzt, nachvollziehbar und sicher in Produktionsabläufe integrierbar sind. Genau das wird die nächsten Implementierungsrunden prägen: weniger große Versprechen, mehr robuste Kontrollmechanismen, transparente Grenzen und eine sorgfältigere Auswahl dessen, was Nutzer überhaupt an KI-Systeme übergeben.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Michael Pollan über Bewusstsein, Gefühl und Grenzen heutiger KI-Agenten" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Michael Pollan über Bewusstsein, Gefühl und Grenzen heutiger KI-Agenten" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Michael Pollan über Bewusstsein, Gefühl und Grenzen heutiger KI-Agenten« bei Google Deutschland suchen, bei Bing oder Google News!