Anm. Der folgende Text ist eine mit Erlaubnis erstellte, sinngemäße Übersetzung des offenen Briefs unserer niederländischen Kolleginnen der hier einsehbar ist und weiterhin unterzeichnet werden kann. Weiterführende Literatur kann ebenfalls dort gefunden werden: openletter.earth/open-letter-stop-the-uncritical-a...*

The following text is a translation of an open letter written by our Dutch colleagues that can you can read and still sign here. Resources/further reading can also be found there: openletter.earth/open-letter-stop-the-uncritical-a...

Mit diesem Brief positionieren wir uns offen gegen die unkritische, wie auch unreflektierte Anwendung und Implementierung sog. „künstlicher Intelligenz“ (KI) an deutschen Universitäten, Hochschulen und anderen Forschungseinrichtungen. Als Bildungseinrichtungen können wir es uns nicht leisten, dass KI von Studierenden, Mitarbeiter*innen und Hochschulleitungen unkritisch und unreflektiert eingesetzt wird.

Wir fordern ebenso die Reevaluation bestehender finanzieller Beziehungen zwischen deutschen Hochschulen bzw. Forschungseinrichtungen und KI Firmen. Die uneingeschränkte Einführung solcher Technologien in diesem Kontext widerspricht der derzeitigen Leitlinie der EU zu KI, dem „EU Artificial Intelligence Act“ (https://artificialintelligenceact.eu/)..)

KI untergräbt die Grundprinzipien unseres pädagogischen Auftrags und unserer wissenschaftlichen Integrität. Sie steht unabhängiger Forschung und Transparenz diametral entgegen. Und, wie inzwischen erwiesen ist, verschlechtert oder verhindert sie sogar grundlegende Lernprozesse und die Fähigkeit, kritisch zu Denken.

Als Akademiker*innen, und besonders als Hochschullehrende, haben wir die Verantwortung, unsere Studierenden auszubilden, ihnen grundlegendes Wissen und Kernkompetenzen zu vermitteln, und erbrachte Leistungen nicht einfach nur blind abzunicken und sie mit Abschlusszeugnissen in die (Arbeit)welt zu schicken. Unsere Pflicht als Lehrende ist es, kritisches Denken und intellektuelle Integrität zu kultivieren, und es ist nicht unsere Aufgabe, Betrug bzw. Plagiat zu fördern – geschweige denn, es zu normalisieren, dem selbstständigen Denken und eigenständigen wissenschaftlichen Arbeiten aktiv aus dem Weg zu gehen. Wissenschaftliche Ausbildung zielt nicht auf Effizienz ab, sondern darauf, die Fähigkeit zu entwickeln, Probleme und Fragestellungen selbst zu erkennen und zu lösen. Studierenden soll ein unterstützendes Umfeld und die Zeit gegeben werden, um mit Hilfe unserer Expertise, eigene Standpunkte zu entwickeln. Dieses Umfeld muss geschützt werden vor industrieller Vereinnahmung, und unsere (ohnehin immer knapper werdenden) finanziellen Mittel sollten auch nicht an kapitalistische Unternehmen fließen, die unsere Studierenden „deskillen“, also ihnen Fähigkeiten sogar aktiv nehmen.

Der Fachbegriff „künstliche Intelligenz“ ist außerdem im allgemeinen Sprachgebrauch oft falsch verwendet; seine absichtliche Unklarheit wird dazu vereinnahmt, die Interessen industrieller Vertreter voranzutreiben und wissenschaftliche Diskurse zu untergraben. Es ist daher unsere Aufgabe, diese sog. „KI“ zu entmystifizieren und deren Anwendung in Lehre, Forschung und Outreach kritisch zu betrachten.

KI kann wissenschaftliche Arbeit bestenfalls gut nachahmen, aber die dahintersteckende Technik ist grundlegend nicht an Wahrheitsfindung interessiert – sie spucken lediglich unkritische „Informationen“ aus. Dem Resultat fehlen oft ausreichende Quellenangaben, und es macht somit die Arbeit der Wissenschaftler*innen unsichtbar, deren Forschung hier verwendet wird. Im schlimmsten Fall sind die entstehenden Texte oder Bilder außerdem schlicht und einfach falsch bzw. irreführend. Beide Optionen sind für Forschung wie Lehre desaströs.

Der Hype um künstliche Intelligenzen wie chatbots, large language models (LLMs), und verwandte Technologien sind Produkte die die Industrie aus kapitalistischem Interesse auf den Markt wirft. Sie stehen den Prinzipien der Nachhaltigkeit, menschlicher Würde, Pädagogik, Datenschutz, wissenschaftlicher Integrität, und Demokratie diametral entgegen.

Diese Produkte existieren nicht zur Verbesserung der Fähigkeiten unserer Studierenden sondern zum Nutzen von Investoren und Großkonzernen. Dahinter steckt oft die Marketingstrategie, zu behaupten, Studierende seien faul oder es fehle Ihnen an wichtigen Skills. Wir weisen dies entschieden zurück und möchten auch unsere Studierenden gegenüber solch industrieller Einflussnahme ermächtigen.

Wir fordern daher:

Widerstand gegen die Einführung von KI in existierenden Software Ökosystem von Microsoft, OpenAI oder Apple. Es ist nicht in unserem Interesse, unsere Arbeitsabläufe davon beinträchtigen zu lassen und dass unsere Daten zum Training von Technologien benutzt werden, die uns nicht nur nicht helfen, sondern sogar aktiv schaden.

Ein komplettes Verbot der Nutzung von KI in unseren Vorlesungssälen und Seminarräumen bzw. bei der Erstellung studentischer Leistungen. Wir verbieten schließlich auch ghostwriting und Plagiat. Studierenden müssen davor geschützt werden, Aufgaben einfach abzugeben, oder sogar ihre Fähigkeiten komplett zu verlieren und stattdessen die Möglichkeit bekommen, sie selbst (weiter) zu entwickeln.

Keine weitere Normalisierung des KI Hypes und der Weiterverbreitung der Lügen, die die Konzerne über deren Funktionalität erzählen, um diese Technologien zu verkaufen. Keine KI kann die angepriesenen Fähigkeiten tatsächlich umsetzen und deren Implementierung riskiert, dass Studierende wie Forschende ethische, juristische und wissenschaftliche Grundprinzipien verletzen.

Stärkung der Wissenschaftsfreiheit gegen den Einzug der KI in unsere Räume, ob in Onlinesystemen die wir tagtäglich brauchen, oder in unsere Lehre und Forschung.

Unterstützung kritischer Positionen gegenüber KI und Technologie allgemein. Wissenschaftlicher Diskurs muss frei von industriellen Interessen, und Widerstand dagegen unbedingt eine Option bleiben.

Gezeichnet,

Dr. Sabrina Mittermeier, Universität Kassel