Akademische Integrität
Seit dem Aufkommen von generativer künstlicher Intelligenz ist es wichtiger denn je, die akademische Integrität stets zu wahren, indem sich Dozierende, Studierende und Mitarbeitende an die Grundsätze der Verantwortung, Transparenz und Fairness halten.
Integrität als Haltung
Das Prinzip der wissenschaftlichen Integrität gilt nicht nur für die Forschung, sondern muss auch in der Lehre aktiv gelebt werden. Generative KI lässt die bisher bekannten Grenzen zwischen Fakten und Fiktion verschwimmen. Deshalb braucht es stets den "Human-in-the-Loop", um Ergebnisse zu validieren, zu hinterfragen, auf Fehler und auf Biases zu überprüfen. Der verantwortungsvolle und transparente Umgang mit GenAI bildet einen Grundpfeiler akademischer Integrität.
Personen, die Inhalte erstellen, sind stets für dessen Korrektheit und Qualität verantwortlich. Dieser Grundsatz gilt weiterhin und bezieht sich auf Kursmaterialien und Dokumente, aber z.B. auch auf Lernnachweise und wissenschaftliche Arbeiten. Generative KI macht es erforderlich, diese Verantwortung jederzeit wahrzunehmen und auch anderen Personen vorzuleben.
- GenAI produziert Output aufgrund von statistischen Wahrscheinlichkeiten, indem es auf grosse Datenmengen (Trainingsdaten) zugreift. Es finden somit keine Überlegungen im menschlichen Sinn statt. Deshalb haben Nutzer:innen die Pflicht, den Output hinsichtlich Korrektheit und Sinnhaftigkeit zu prüfen.
- Generative KI kann halluzinieren, falsche Schlüsse ziehen und auch falsch referenzieren. Benutzer:innen übernehmen die Verantwortung, die Outputs im Detail auf Korrektheit zu überprüfen.
- Der Output von GenAI basiert auf den benutzten Trainingsdaten sowie programmierten Algorithmen. Deshalb können jederzeit Biases auftreten, welche durch die Benutzenden sorgfältig überprüft werden müssen.
Weitere wichtige Punkte einer verantwortungsvollen Haltung sind auch zu finden unter 'Gute wissenschaftliche Praxis' sowie beim Netzwerk ETH AI Ethics Policy, welches sich am globalen Dialog zu verantwortungsvollem Umgang mit AI beteiligt.
Die Verwendung von generativer KI soll jederzeit transparent ausgewiesen werden. Dies gilt nicht nur für wissenschaftliche Arbeiten, sondern auch z.B. für Kursunterlagen, Präsentationen oder den Einsatz von generativer KI für eine Bewertung oder Rückmeldung. Deshalb sollten folgende Grundregeln eingehalten werden:
- Offenlegen, welche Inhalte oder Teile von Materialien und Arbeiten mit Hilfe von generativer KI erstellt wurden.
- Transparenz schaffen zum Einsatz von KI-basierten Werkzeugen im Unterricht.
- Offene Kommunikation oder auch Diskussion über die Verwendung von GenAI für Feedback und Bewertungen.
Es ist wichtig, die Privatsphäre und das Urheberrecht der Inhalte, mit denen gearbeitet wird, zu respektieren. KI-Werkzeuge haben einen grossen Datenbedarf, um die dahinterliegenden Modelle zu trainieren. Eingaben der Benutzenden werden oft für das Training weiterverwendet. Deshalb ist es zentral, die jeweiligen Bestimmungen zum Datenschutz zu kennen und auf deren Grundlage mit geschützten Materialien korrekt umzugehen.
- Werden Daten an KI-basierte Werkzeuge weitergegeben oder für diese freigegeben, ist vorab sicherzustellen, dass keine Rechte verletzt werden, oder muss vorab eine Einwilligung eingeholt werden.
- Für private oder nicht öffentlich verfügbare Daten sollen nur Werkzeuge eingesetzt werden, welche die Einhaltung der Datenschutzbestimmungen gewährleisten (siehe auch KI-Werkzeuge & Lizenzen).
Wissenschaftliches Arbeiten
Die Dozierenden werden aufgefordert, Regeln und Richtlinien in Bezug auf den Einsatz generativer künstlicher Intelligenz für die Aufgaben, Projekte und Bewertungen in ihren Kursen aufzustellen. Es gibt keine allgemein gültigen Lösungsansätze, umso wichtiger ist eine klare Kommunikation zwischen Dozierenden und Studierenden. Die Festlegung dieser Regeln kann auch ein Teil der Diskussion innerhalb des Kurses sein, um gemeinsam pragmatische und faire Konsenslösungen zu erarbeiten und festzuhalten.
In Kursmaterialien sowie wissenschaftlichen Arbeiten müssen Quellen von Inhalten (Text, Bilder, Videos usw.) korrekt referenziert werden. Auch die Generierung von Bildern, Texten, Code usw. durch generative KI ist stets korrekt auszuweisen.
Die verschiedenen Zitierstile haben für das Referenzieren von KI-Werkzeugen Vorgaben erlassen, beispielsweise für externe Seite APA, externe Seite MLA oder externe Seite Chicago Style (weitere Leitlinien sind zu finden unter externe Seite IEEE Style Manual und externe Seite Harvard referencing). Detaillierte Informationen dazu finden sich auf der von der ETH-Bibliothek lizenzierten Plattform externe Seite Cite Them Right. Eine gute Übersicht wie korrekt verwiesen werden soll ist auch unter externe Seite Guidelines 'Citing AI Tools' (Universität Basel, Schweiz) oder unter externe Seite Citation and Writing Guidance for Generative AI Use in Academic Work (Dudley Knox Library Monterey, USA) zu finden.
Die Eigenständigkeitserklärungen der ETH Zürich enthalten einen Passus zum Einsatz künstlicher Intelligenz. Hierbei muss eine der drei folgenden Varianten ausgewählt werden:
- Technologien der generativen KI wurden nicht verwendet.
- Generative KI wurde als Hilfsmittel verwendet und gekennzeichnet.
- Generative KI wurde als Hilfsmittel verwendet und in Absprache mit der Betreuungsperson nicht gekennzeichnet.
Die Auswahl der Option sollte in jedem Fall vorab klar festgelegt und zwischen Dozierenden sowie Studierenden abgesprochen werden. Option 3 wird nur in Spezialfällen empfohlen, bei welchen generative KI ein integraler Bestandteil einer Arbeit darstellt und somit nicht direkt ausgewiesen werden muss.
Beim Einsatz von generativer KI ändert sich aus rechtlicher Sicht bezüglich wissenschaftlicher Integrität und Plagiat nichts. Die ETH-Bibliothek führt unter Plagiat und Künstliche Intelligenz (KI) auf, wie mit den neuen Gegebenheiten umzugehen ist.
Eine technische Erkennung von Output, der mittels generativer KI erzeugt worden ist, gestaltet sich derzeit und wahrscheinlich auch in Zukunft als unzuverlässig. Vertrauen in eine solche Methode ist daher nicht angebracht.
Die Entwicklung generativer KI erfordert eine kritische Reflexion über die Rolle des Schreibens in Bildung und Wissenschaft. Verantwortungsvolles Handeln von Forschenden, Lehrenden und Studierenden ist notwendig, um die Potenziale der Technologie zu nutzen und gleichzeitig Risiken zu minimieren. Im Diskussionspapier externe Seite Wissenschaftliches Schreiben im Zeitalter von KI gemeinsam verantworten des Hochschulforum Digitalisierung werden diese Aspekte aus unterschiedlichen Blickwinkeln beleuchtet.
Bei der Verwendung von KI-Werkzeugen entgegen den Anweisungen des Dozierenden gelten weiterhin die bereits bestehenden Prozesse. Verstösse, wie die Verwendung nicht zugelassener Hilfsmittel oder die Nicht-Deklaration ihrer Verwendung, werden disziplinarisch geahndet (siehe auch externe Seite Disziplinarverordnung ETH Zürich).