TU digit | Das Wiki zu Digitalen Kompetenzen und Medienproduktion an der TU Berlin

Generative KI bietet vielfältige Chancen für die Hochschulen und wird künftig in fast allen Bereichen eine Rolle spielen. Gleichzeitig entstehen Herausforderungen, vor allem rechtlicher und ethischer Art, denen begegnet werden muss. Wie wollen wir an der TU Berlin mit generativer KI umgehen? Einige der bisherigen Überlegungen sind im Folgenden dargestellt und werden regelmäßig angepasst.

💬 „Was sollte ich aus prüfungsrechtlicher Sicht beim Einsatz von KI beachten?“

Chancengleichheit sicherstellen. Trotz neuer technischer Möglichkeiten gelten weiterhin die Prinzipien der Fairness und Chancengleichheit. Beispielsweise darf die Nutzung eines (besseren) KI-Tools keinen wesentlichen Einfluss auf die Prüfungsleistung haben. Die Prüfung muss deshalb so konzipiert sein, dass für alle Studierenden vergleichbare Prüfungsbedingungen bestehen.

Eigenständigkeit gewährleisten. Hochschulprüfungen sollen die Leistungen der Studierenden erfassen und dürfen nicht (versehentlich) die von der KI ausgegebenen Ergebnisse bewerten. In Hinblick auf die Lernziele müssen die Studierenden also eine signifikante Eigenleistung zeigen können. Beim Einsatz von KI als erlaubtes Hilfsmittel liegt die Verantwortung für die Abgabe nicht bei der KI, sondern bei den Studierenden.

Täuschungsversuche unterbinden. Wenn Studierende KI-Ergebnisse unverändert übernehmen und diese weder kennzeichnen noch weiter bearbeiten, kann dies analog zu Ghostwriting bzw. Unterstützung durch Dritte einen Täuschungsversuch über die Eigenständigkeit darstellen. Schon die Konzeption der Prüfung und der Rahmenbedingungen muss daher so gestaltet sein, dass sie Täuschungsversuche unwahrscheinlich machen.

Transparenz herstellen. Teilen Sie den Studierenden rechtzeitig mit, ob und zu welchen Zwecken, die Nutzung von KI als Hilfsmittel erlaubt ist. Machen Sie die Studierenden im Vorfeld mit den Tools vertraut. Erklären Sie den Sinn von Regeln und Verboten und weisen Sie auf mögliche Folgen bei Verstößen hin. Diese können von Punktabzug oder Nichtbestehen der Prüfung bis zur Exmatrikulation bei wiederholter Täuschung reichen.

Prüfungen anpassen. Aus dem Vorherigen ergibt sich, dass einige Prüfungen ggf. verändert werden müssen. Im Folgenden finden Sie einige Vorschläge für mögliche Maßnahmen. Rahmenbedingungen: engere Betreuung, technische Maßnahmen Prüfung: Aufgabenstellung ändern, Bewertungskriterien aktualisieren Prüfungsform ändern: größerer Anteil mündlicher Studien- und Prüfungsleistungen, beaufsichtigte Essays statt Hausarbeiten, Verteidigung bei Abschlussarbeiten einführen

Manches davon erfordert eine Änderung der fachspezifischen StuPO . Regen Sie diese bei Bedarf frühzeitig im Referat Studium und Lehre/Fakultätsrat an.

💬 „Was sollte ich aus datenschutzrechtlicher Sicht beim Einsatz von KI beachten?“

Regeln beachten. Zeitgemäße Lehre und Forschung sollte das Thema KI nicht aussparen. Geben Sie jedoch keine personenbezogenen Daten und vertraulichen Informationen in generative KI-Tools ein, vor allem nicht von Studierenden.

Tools konfigurieren. Bei manchen Anbietern können Sie einstellen, dass die Chatdaten nicht als Trainingsdaten genutzt werden, siehe auch Empfehlungen zu ChatGPT vom Datenschutz-Team.

Tools auswählen. Nutzen Sie in der Lehre vorzugsweise datensparsame Tools.

💬 „Was sollte ich aus urheberrechtlicher Sicht beim Einsatz von KI beachten?“

KI ist kein Urheber. Nach aktueller Rechtslage können generative KI-Tools nicht Urheber sein, denn „Urheber ist der Schöpfer des Werkes“ und muss somit eine natürliche Person sein (§ 7 Urhg). Der KI-Output wäre demnach also nicht urheberrechtlich geschützt.

Abstand zum Werk. Selbst, wenn die KI unrechtmäßig an geschützten Inhalten trainiert worden sein sollte, wäre eine Eins-zu-Eins-Ausgabe von ursprünglichem Trainingsmaterial unwahrscheinlich. Dies liegt an der stochastischen Arbeitsweise von generativen KI-Tools. Wenn es sich um gewöhnliche Nutzungskontexte ohne Manipulation handelt, gäbe es somit „einen hinreichenden Abstand zum benutzten Werk“ (§ 32 Abs. 1 UrhG) und die Zustimmung des Urhebers nicht erforderlich.

Urheberrechte beachten. Für die Nutzer*innen ist es meist nicht möglich, die von der KI ggf. unrechtmäßig übernommenen Inhalte und deren Urheber*innen zu identifizieren. Dennoch kann der Urheber die Löschung der entsprechenden Teile verlangen, wenn Sie KI-Output mit geschützten Inhalten öffentlich zugänglich machen, und er hätte bei Vorsatz oder Fahrlässigkeit ggf. Anspruch auf Schadenersatz. Bei der Eingabe von Inhalten sollten Sie keine urheberrechtlich geschützten Texte, Bilder, Videos etc. verwenden, um die Rechte der Urheber nicht zu verletzen.

💬 „Kann ich die Ergebnisse von KI-Tools in wissenschaftlichen Arbeiten zitieren?“

Zitation. KI-Tools generieren ihre Ergebnisse auf Basis einer sehr großen Anzahl von Trainingsdaten nach einer bestimmten stochastischen Logik. Dieser Output kann inhaltlich falsch „zusammengewürfelt“ sein und bspw. fiktive Literaturverweise oder fehlerhafte Grafiken enthalten. Die Informationsquellen sind für die Rezipienten nicht verifizierbar, da der gleiche Prompt nicht wieder zu den gleichen Ergebnissen führt. Daher ist das Zitieren von KI-Ergebnissen in wissenschaftlichen Arbeiten in den meisten Fällen nicht sinnvoll und außerdem ethisch problematisch.

Kennzeichnung. Wenn jedoch KI-Ergebnisse unverändert übernommen werden sollen, müssen diese gekennzeichnet werden. Nur so kann im Sinne guter wissenschaftlicher Praxis und auch prüfungsrechtlich unterschieden werden, welche Teile eigenständig und welche durch eine generative KI erstellt worden sind. Evtl. kann per permanent link auf den spezifischen KI-Output verwiesen werden.

Zitierempfehlung. Folgt …

💬 „Was sollte ich aus didaktischer Sicht beachten?“

Lernziele erreichen. Der Einsatz von KI in Lehre und Prüfungen ist nur sinnvoll, wenn die angestrebten Lernziele trotz KI-Nutzung erreicht und eigenständige Leistungen der Studierenden geprüft werden können bzw. wenn der Einsatz von KI Inhalt der Prüfung ist. Diskutieren Sie mit Ihren Fachkolleg*innen, welche Kompetenzen sowohl wegen aber auch trotz der Verfügbarkeit von KI-Tools vermittelt werden sollen. Passen Sie Prüfungen bzw. Curricula entsprechend darauf an, um „Deskilling“ zu vermeiden.

Kompetenzorientierung. Überlegen Sie vor allem für unbeaufsichtigte schriftliche Prüfungs- und Studienleistungen, ob die Prüfungsaufgaben noch sinnvoll sind. Nicht so leicht mit der KI lösbar sind bspw. kompetenzorientierte Aufgaben, die kritisches Denken, Meinungen oder Reflexionen in Bezug zur Lehrveranstaltung erfordern.

Prüfungsformate. Überdenken Sie ggf. das Prüfungsformat und wechseln Sie z.B. von einer summativen Prüfung am Semesterende auf mehrere semesterbegleitende Leistungsnachweise.

Aufklärung leisten. Besprechen Sie auch die Nachteile von KI-Tools mit den Studierenden und sensibilisieren Sie sie hinsichtlich der Risiken. Fördern Sie einen kritischen und reflektierten Umgang mit generativen KI-Tools, z.B. bezüglich „halluzinierter“ Quellenangaben, inhaltlichen Fehlern, Bias/Vorurteilen etc.

💬 „Darf ich als lehrende Person generative KI zur Formulierung von Prüfungsaufgaben einsetzen?“

Sie können KI-Tools als Hilfsmittel bei der Erstellung von Prüfungs- oder Übungsaufgaben einsetzen, aber kontrollieren Sie den Output vorher kritisch hinsichtlich der inhaltlichen Richtigkeit und der Passung zu Ihren Lernzielen.

💬 „Darf ich als lehrende Person KI-Tools zur Bewertung von studentischen Leistungen einsetzen?“

Keine automatisierte Bewertung. Eine vollständig automatisierte Bewertung von Studien- oder Prüfungsleistungen ist nicht zulässig (basiert auf Art. 22 DSGVO). Das heißt, der Output darf nicht eins zu eins übernommen werden, sondern digitale Tools wie KI dürfen nur als Hilfsmittel dienen. Zum Beispiel könnte KI zum Ausformulieren von Stichpunkten für ein Feedback oder zur schnellen Identifikation von inhaltlichen Fehlern genutzt werden. Wichtig: Studierendendaten dürfen nur eingegeben werden, wenn die KI so eingestellt worden ist, dass diese Daten nicht als Trainingsdaten weiterverwendet werden.

Eine Übersicht über Einsatzmöglichkeiten und Tools finden Sie auf dieser Liste.

Todos: Kann bzw. sollte ich KI-Tools in meinen Lehrveranstaltungen aufnehmen?
Wo finde ich eine Vorlage für eine angepasste Einverständniserklärung?
Wo kann ich mich vernetzen bzw. wo bekomme ich Hilfe? ggf. Wie kann ich KI in der Forschung einsetzen? etc.

• Christian Schröder (Vizepräsident für Studium und Lehre) im Interview über den Umgang mit KI-gestützten Werkzeugen im akademischen Schreiben
• Perspektive des Personalrats auf ChatGPT - Chancen und Risiken Bewertung von ChatGPT aus der Sicht des Personalrats mit Fokus auf potentielle Herausforderungen

• KI-Kurse & Materialien des BZHL Umfassende Sammlung von Materialien und Gedanken vom Berliner Zentrum für Hochschullehre (BZHL) zum Einsatz von KI in Lehre und Wissenschaft
• Videoreihe des KI-Campus: „ChatGPT – kurz erklärt“ Sammlung von kurzen und knackigen Videos, die grundlegende Konzepte und Anwendungen von ChatGPT vermitteln
• Linksammlung des Hochschulforum Digitalisierung (HFD) Sehr ausführliche kommentierte Linksammlung zum Thema ChatGPT, vor allem im Hochschulkontext
• Klatt, F. (2023). Der Einsatz von künstlichen Intelligenzen (KI) beim Verfassen von Abschlussarbeiten Handreichung der DBWM (Die Bibliothek Wirtschaft & Management) der Fak VII der TU Berlin zum Einsatz von ChatGPT in Abschlussarbeiten

• Spannagel, C. (2023). Rules for Tools Kurze Zusammenfassung (1 Seite jeweils Deutsch/Englisch) zu Regeln und Richtlinien für den Einsatz von KI-Werkzeugen für Lehrende und Studierende
• Reinmann, G. (2023). Diskussionspapier: Deskilling durch Künstliche Intelligenz? Eine kritische Auseinandersetzung mit den Auswirkungen von KI auf die Kompetenzentwicklung (insbes. Abschnitte 4, 5 und 6).

• Leitlinien der DFG (Deutschen Forschungsgemeinschaft) für den Umgang mit generativen Modellen für die Text- und Bilderstellung bei der Antragserstellung

• Individuelle Beratung durch das Team digit der ZEWK Sprechen Sie uns gern an!

Diese Seite befindet sich derzeit im Aufbau. Falls Sie Fragen zu KI-Richtlinien haben, kontaktieren Sie gerne das Team digit unter teamdigit@zewk.tu-berlin.de