Viele Nutzer behandeln Gespräche mit Chatbots als private Austausche, doch ein erheblicher Teil der Bevölkerung bleibt über die tatsächlichen Datenschutzimplikationen verwirrt. Eine im August veröffentlichte Umfrage, die von DuckDuckGo in Auftrag gegeben wurde und 1.944 erwachsene Amerikaner befragte, ergab, dass mehr als die Hälfte (53 %) nicht wusste, ob ihre Chats zum Training der Bots verwendet wurden, obwohl dies Standardpraxis ist. Darüber hinaus war nur ein Viertel der Befragten sich bewusst, dass Chatbot-Gespräche rechtlich gerichtlich eingezogen werden können.
Unter den selbsternannten KI-Enthusiasten gaben 56 % zu, einem Chatbot Informationen anvertraut zu haben, die sie nie mit engen Freunden, Eltern, Kollegen, Ärzten oder Therapeuten geteilt hatten. Dieses Verhalten ist insbesondere auf Character.AI verbreitet, einer Plattform, auf der Nutzer Beziehungen zu anpassbaren Charakteren eingehen. Auf diesem Dienst haben Einzelpersonen sensible Details offengelegt, darunter Suizidgedanken und Selbstverletzung, psychische Gesundheitsprobleme, Alter, private Sprachanrufe und tiefe persönliche Ängste.
Die Risiken, die mit einer solchen Datenexposition verbunden sind, wurden Anfang dieses Monats unterstrichen, als Character.AI Insolvenz anmeldete und einen gerichtlich überwachten Verkauf seiner Vermögenswerte einleitete. Die zukünftige Eigentümerschaft des Unternehmens bleibt ungewiss, ebenso wie das Schicksal der Daten, die von Millionen von Kontoinhabern gehalten werden. Während das große Sprachmodell (LLM) des Unternehmens, das maßgeblich durch Nutzerinteraktionen trainiert wurde, wahrscheinlich sein wertvollstes Asset ist, ist der rechtliche Status des Verkaufs trainierter Modelle und ihrer zugrunde liegenden Daten gesetzlich noch nicht geklärt. Die Datenschutzrichtlinie von Character.AI wird als vage beschrieben und besagt lediglich, dass „bestimmte Informationen
Quellen: Computerworld.