How it started: Eating Disorder Helpline Fires Staff, Transitions to Chatbot After Unionization.

How it's going: Eating Disorder Helpline Disables Chatbot for 'Harmful' Responses After Firing Human Staff.

Money Quote:

“Every single thing Tessa suggested were things that led to the development of my eating disorder.”

Tessa ist der Chatbot.

Wenn man sich die Details anguckt, wird die Story etwas komisch. Der Beweis gegen den Chatbot ist ein Screenshot, wo sich jemand als übergewichtig und unzufrieden vorgestellt hat, und der Chatbot hat dann empfohlen, die Diät umzustellen und weniger Kalorien zu sich zu nehmen, am besten unter Anleitung eines Experten.

Die Kritik ist jetzt, dass die Essstörung ja gerade der ewige Diätversuch sei (und nicht etwa das Übergewicht) und man daher Menschen nicht sagen dürfe, sie sollten ihr Gewicht reduzieren, weil das das Problem verstärke.