Challenge #12: Mit KI Fakten checken

👉 Mit KI Fakten zu checken, ist ambivalent. Denn KI-Modelle können auch halluzinieren, d.h. Informationen frei erfinden oder in ihrer Datenbasis und Filtermechanismen eingeschränkt sein. Zugleich gibt es aber auch Modelle mit Websearch-Funktion, mit denen du Inhalte über die angegebenen Links prüfen lassen kannst.
Hintergrund

Künstliche Intelligenz als Werkzeug zur Faktenprüfung zu nutzen, birgt Chancen und Risiken. Einerseits können KI-Modelle enorme Datenmengen durchsuchen, Zusammenhänge herstellen und auf Anfrage relevante Informationen liefern. Andererseits sind sie fehleranfällig: Sie können sogenannte „Halluzinationen“ erzeugen, also falsche oder frei erfundene Informationen präsentieren. Zudem sind KI-Modelle auf ihre Trainingsdaten und Algorithmen beschränkt, was zu Verzerrungen oder Lücken in der Faktenprüfung führen kann. Einige moderne KI-Systeme verfügen jedoch über eine Websearch-Funktion, die es ermöglicht, aktuelle Informationen direkt aus dem Internet abzurufen. Dies kann helfen, Behauptungen anhand verlässlicher Quellen zu überprüfen. Nutzer*innen sollten allerdings immer die angegebenen Links selbst bewerten und die Glaubwürdigkeit der Quellen hinterfragen. Letztlich bleibt die menschliche Kontrolle essenziell, um Falschinformationen zu vermeiden und sich auf fundierte Fakten zu stützen.

Benötigte Materialien

Anleitung

  1. Testet aus, ob und wenn ja wie ihr ein KI-Sprachmodell von falschen Fakten überzeugen könnt oder dazu bringen könnt, zu halluzinieren. So etwas bewusst auszuprobieren, ist der beste Weg, um damit reflektiert umgehen zu können.
  2. Probiert diese Faktencheck-Techniken mit einem KI-Modell mit Websearch-Funktion aus:
    • Hier ist ein Text: ... Was davon kannst du nicht eindeutig bestätigen?
    • Hier ist ein Text: ... Mit welchen Quellen lassen sich die Aussagen belegen?
    • Faltenfragen stellen: Was ist ...? Was ist der Unterschied zwischen ... und ...? Erkläre mir den Begriff ...
  3. Stellt die gleiche Frage an unterschiedliche KI-Modelle, um zu erkunden, wie Antworten unterschiedlich generiert bzw. gewichtet werden - und so auf Lücken aufmerksam zu werden.
  4. Habt ihr weitere Erfahrungen mit Faktencheck und KI? Berichtet euch gegenseitig davon und probiert eure Techniken aus.
  5. Was wollt ihr zu KI und Faktencheck für Eure Arbeit festhalten?

Fertig! Damit habt ihr diese Challenge erfolgreich bearbeitet, könnt sie abhaken und euch die nächste Herausforderung - gerne in einer neuen Gruppe - suchen.