Die Universität Basel hat in einer Studie untersucht, wie Menschen einen KI-Chatbot einschätzen und welche Eigenschaften als besonders wichtig erachtet werden. Gemäss den Studienautoren seien insbesondere Kompetenz und Integrität wichtige Kriterien, warum Menschen einen KI-Chatbot als vertrauenswürdig wahrnehmen, Wohlwollen ist hingegen weniger wichtig, wenn die beiden anderen Eigenschaften berücksichtigt werden. Darüber hinaus kommen die Autoren zum Schluss, dass die Studienteilnehmer die Eigenschaften der KI direkt zuschreiben und nicht dem Unternehmen, das dahinter steht. Die Teilnehmer nehmen die KI somit quasi als eigenständiges Wesen wahr, obwohl es sich letztendlich nur um Software handelt.
Zudem gibt es Unterschiede zwischen personalisierten und unpersönlichen Chatbots. Spricht ein Chatbot den User beispielsweise mit Namen an und nimmt Bezug auf frühere Unterhaltungen, schätzten ihn die Studienteilnehmenden als besonders wohlwollend und kompetent ein. "Sie vermenschlichten den personalisierten Chatbot. Das steigerte die Bereitschaft, das Tool zu nutzen und persönliche Informationen zu teilen", so die Co-Autorin Fanny Lalot.
Die Studienautoren kommen zum Schluss, dass User oftmals mehr in die KI hineinprojizieren, als tatsächlich vorhanden ist. Sie befürworten daher ehrliche und nicht zu wohlwollende Chatbots, die nicht alles gutheissen, was der User wünscht oder verlangt.
(dok)
