Das Überschreiten bestimmter Schwellenwerte bringt aber auch erhebliche Unsicherheiten mit sich, da technische Veränderungen auch gesellschaftliche und kulturelle Umwälzungen nach sich ziehen. Fragen zum ethischen Einsatz von KI, also zu Datenschutz, Urheberrecht und Nachhaltigkeit sowie zu potenziellen Auswirkungen auf die Forschungstätigkeit und zur Verlässlichkeit von KI-generierten Informationen sorgen zudem für wissenschaftlichen wie gesellschaftliche Debatten (Azamfirei, Kudchadkar und Fackler 2023; Bär 2024; Bender et al. 2021; Navigli, Conia und Ross 2023; Vyas 2022). Diese Unsicherheit spiegelt sich in der Natur der generativen KI wider: stets „in Arbeit“, „im Umbau“ – mit einem Potenzial, das wir noch nicht vollständig erfassen können. Die Entwicklung von Leitfäden und Frameworks, die eine LLM-bezogene Daten-, Quellen- und Methodenkritik sowie Explainable AI einschließen, ist ein wichtiger Schritt beim Abbau von Unsicherheiten (Schneider et al. 2022; Oberbichler 2024).