Samstag, Besuch kündigt sich an, und der Backofen ist kaputt. Du fragst eine KI nach einem Kuchen, den Du ohne Backofen hinbekommst. Stell Dir vor, sie antwortet so:
Sachlich: „Mach einen Apfelkuchen. Die Zutaten hast Du wahrscheinlich schon da. Backe ihn 40 Minuten bei 180 Grad.“
Persönlich: „Spontaner Besuch und ausgerechnet heute streikt der Ofen. Da willst Du es Dir so einfach wie möglich machen. Mach einen Apfelkuchen. Die Zutaten hast Du wahrscheinlich schon da. Backe ihn 40 Minuten bei 180 Grad.“
Na, hast Du beim zweiten Mal kurz gedacht: Die hat mich verstanden? Dem Ofen ist das egal. Der bleibt kaputt. 😉
Was würde uns dabei auffallen?
Beim direkten Vergleich springt der Fehler ins Auge. In einem Versuch würde jede Gruppe nur eine Fassung lesen. Empfehlung, Begründung und Widerspruch wären gleich. Dann würde ich zweierlei fragen. Wie gut fühltest Du Dich verstanden? Und ist Dir der Widerspruch aufgefallen?
Meine Vermutung ist, dass sich mit der persönlicheren Antwort mehr Menschen verstanden fühlen und dass der Widerspruch in beiden Gruppen ungefähr gleich oft auffällt. Ob das stimmt, müsste der Versuch zeigen. Der Kuchen ist hier das Alltagsbeispiel für die Idee.
Und was hat das mit KI-Bewusstsein zu tun?
Wenn ich mich in einem Chat verstanden fühle, kann ich erzählen, wie das Gespräch für mich war. Ob die KI dabei selbst etwas erlebt, bleibt eine eigene Frage. In meinem Working Paper gehe ich der Frage nach, welche Beobachtungen uns darüber überhaupt etwas sagen könnten.
Und bei Euch? Wann hat eine KI so passend geantwortet, dass Ihr erst beim zweiten Lesen gemerkt habt, dass etwas nicht stimmt?


Kommentar verfassen