Fehlerhafte Kochanweisungen von Googles Künstlicher Intelligenz: Googles Gemini-KI hätte beinahe Anwender vergiftet

MÜNCHEN (IT BOLTWISE) – KI sollte beim Kochen und auch sonst nur mit Vorsicht eingesetzt werden. Ein Nutzer von Google Gemini hätte sich und seine Familie beinahe vergiftet.

Auf Reddit ist eine Geschichte veröffentlicht worden, die die Risiken zeigt, wenn mit KI allzu sorglos umgegangen wird. In dem Beitrag wurde der Versuch eines Benutzers beschrieben, Knoblauch bei Raumtemperatur in Olivenöl einzulegen – eine Methode, die er aufgrund von der Anleitung von Google Gemini für harmlos hielt. Der Benutzer befolgte die Schritte genau: Knoblauchzehen schälen und leicht zerdrücken, dann in Olivenöl einlegen und bei Raumtemperatur ziehen lassen.

Der Infusionsprozess schien ohne Zwischenfälle zu verlaufen, bis der Benutzer ungewöhnliche Aktivitäten im Glas bemerkte. Nach einigen Tagen bildeten sich winzige Bläschen, die er zunächst für normal hielt. Am siebten Tag jedoch, als die Bläschen ausblieben und er immer noch Zweifel hatte, suchte er bei Google nach Antworten. Die Suche förderte eine beunruhigende Tatsache zutage: Die Bläschen waren ein Zeichen für das Wachstum des Bakteriums Clostridium botulinum. Die von diesem Bakterium gebildeten Nervengifte zählen zu den stärksten bekannten Giften und werden unter speziellen Umständen wie Sauerstoffabschluss gebildet.

Clostridium botulinum gedeiht besonders gut unter den anaeroben Bedingungen, die bei Ölinfusionen herrschen. Deshalb sollten Gefäße sterilisiert und die Knoblauchzehen bald wieder entnommen und das Glas im Kühlschrank gelagert werden. Noch sicherer ist es, die Zehen kurz anzubraten.

Golem.de probierte den gleichen Prompt, den der Nutzer bei Google Gemini eingegeben hatte, auch bei Claude.AI aus und erhielt den Warnhinweis auf potenzielles Bakterienwachstum und den Ratschlag, besonders sauber zu arbeiten. Auch bei ChatGPT gab es entsprechende Hinweise.