Aus der Praxis

Fantasievolle KI: Von Daunenmänteln und Falschinformationen

Eine Herausforderung betrifft die Kreationen der KI, die manchmal völlig frei erfundene Ergebnisse hervorbringt. Wir erinnern uns an ein Bild, das den Papst in einem angesagten Daunenmantel zeigt, welches von einem Twitter-User mit Hilfe von Midjourney erstellt wurde. Ein unterhaltsames Werk der KI, das jedoch keinerlei Bezug zur Realität hat. Solche fantasievollen Kreationen bergen das Risiko, Falschinformationen zu verbreiten.

Dieses Phänomen, von Experten auch als "halluzinierende KI" bezeichnet, zeigt die derzeitigen Grenzen der Künstlichen Intelligenz. Die Ausgaben basieren auf komplexen Informationen, die Wahrscheinlichkeiten nutzen, um menschenähnliche Antworten zu generieren. Eine sterile Welt der Daten, ohne emotionale oder kulturelle Assoziationen.

Um diese Herausforderungen zu meistern, fordern Expert*innen Transparenz und einige sogar Moderation KI-generierter Inhalte. Zudem muss uns bewusst sein, dass die Verantwortung zur Überprüfung der Wahrheit und zur Recherche von Quellen bei uns Menschen liegt. Nur so können wir die Chancen der KI im Bildungskontext erkunden und gleichzeitig die Verbreitung von Falschinformationen verhindern. Erfahren Sie mehr zu diesem Thema hier in unserem Themendossier "ChatGPT & Co.".