ChatGPT als Recherchetool?

Abstract

„ChatGPT may produce inaccurate information about people, places, or facts“, so warnt Open AI vor der Unzuverlässigkeit der Auskünfte, die sein Chatbot erteilt. Zu KI-Kompetenz, die heute zu den zukunftsrelevanten und berufsvorbereitenden Studienzielen gezählt wird, gehört, diese Unzuverlässigkeit einschätzen zu können. Der Beitrag bietet dazu eine Fehlertypologie und setzt sie in Bezug zur technischen Funktionsweise. Zwanzig Arten der Unzuverlässigkeit von KI-Auskünften ordnet er den drei Ursachenfeldern Trainingsmaterial, Generierungsprozess und Programmierung zu. Außerdem entwirft er ein Modell des paradoxen Mechanismus der User-Psychologie – Technikglaube vs. Eliza-Effekt – und rekurriert auf Harry Frankfurts Begriff des Unfugs („Bullshit“), der wie zugeschnitten auf KI-Auskünfte scheint. Einige der Fehlertypen, insbesondere die im Generierungsprozess selbst erzeugten, sind als unbehebbares Kernphänomen zu sehen. Im Einsatz generativer KI als Informations- und Recherchetool steckt daher ein großes und dauerhaftes Gefahrenpotenzial – für den Kompetenzaufbau im Studium, aber auch für unsere Wissensgesellschaft als Ganzes.