Benutzer-Werkzeuge

Webseiten-Werkzeuge


ki:richtlinien

Entwurf für "lebende" KI-Leitlinien

Generative KI bietet vielfältige Chancen für die Hochschulen und wird künftig in fast allen Bereichen eine Rolle spielen. Gleichzeitig entstehen Herausforderungen, vor allem rechtlicher und ethischer Art, denen begegnet werden muss. Wie wollen wir an der TU Berlin mit generativer KI umgehen? Einige der bisherigen Überlegungen sind im Folgenden dargestellt und werden regelmäßig angepasst.

Diese Seite befindet sich derzeit im Aufbau. Diskussionen und Rückmeldungen sind erwünscht! Wir haben dafür ein Forum zu KI an der TU Berlin eingerichtet und freuen uns über Ihre und eure Beteiligung. Ansonsten gern auch per Mail an teamdigit@zewk.tu-berlin.de.

Prüfungsrecht & erforderliche Maßnahmen

💬 „Was sollte aus prüfungsrechtlicher Sicht beim Einsatz von generativer KI beachtet werden?“

Chancengleichheit sicherstellen. Trotz neuer technischer Möglichkeiten gelten weiterhin die Prinzipien der Fairness und Chancengleichheit. Beispielsweise darf die Nutzung eines (besseren) KI-Tools keinen wesentlichen Einfluss auf die Prüfungsleistung haben. Die Prüfung muss deshalb so konzipiert werden, dass für alle Studierenden vergleichbare Prüfungsbedingungen bestehen.

Eigenständigkeit gewährleisten. Hochschulprüfungen sollen die Leistungen der Studierenden bewerten und nicht (versehentlich) die von der KI ausgegebenen Ergebnisse. In Hinblick auf die Lernziele müssen die Studierenden also eine signifikante Eigenleistung zeigen können. Wenn KI genutzt wird, liegt die Verantwortung für das Produkt nicht bei der KI, sondern bei den Nutzenden, z.B. den Studierenden oder Forschenden. Aktualisieren Sie Ihre Einverständniserklärung bzw. nutzen Sie die neue Vorlage des Referat Prüfungen.

Transparenz herstellen. Informieren Sie in der Lehrveranstaltung rechtzeitig, ob und zu welchen Zwecken, die Nutzung von KI als Hilfsmittel erlaubt ist. Machen Sie die Studierenden im Vorfeld mit den Tools vertraut. Erklären Sie den Sinn von Regeln und Verboten und weisen Sie auf mögliche Folgen bei Verstößen hin. Diese können von Punktabzug oder Nichtbestehen der Prüfung bis zur Exmatrikulation bei wiederholter Täuschung reichen.

Täuschungsversuche unterbinden. Wenn Studierende KI-Ergebnisse unverändert übernehmen und diese weder kennzeichnen noch wesentlich weiter bearbeiten, kann dies analog zu Ghostwriting bzw. Unterstützung durch Dritte einen Täuschungsversuch über die Eigenständigkeit darstellen. Die Konzeption der Prüfung und der Rahmenbedingungen sollte u.a. darauf ausgerichtet sein, Täuschungsversuche unwahrscheinlich zu machen.

Prüfungen anpassen. Aus dem Vorherigen ergibt sich, dass einige Prüfungen verändert werden müssen, um weiterhin sinnvoll und valide zu sein. Mögliche Maßnahmen:
Rahmenbedingungen: engere Betreuung, Kioskbrowser, Aufsicht
Prüfung: Aufgabenstellung ändern, Bewertungskriterien aktualisieren
Prüfungsform: größerer Anteil mündlicher Studien- und Prüfungsleistungen, beaufsichtigte Essays statt Hausarbeiten, Verteidigung bei Abschlussarbeiten

Manches davon erfordert eine Änderung der fachspezifischen StuPO. Regen Sie diese bei Bedarf frühzeitig in Ihrem Referat Studium und Lehre bzw. im Fakultätsrat an.

Datenschutz & Urheberrecht

💬 „Was sollte aus datenschutzrechtlicher Sicht beim Einsatz von generativer KI beachtet werden?“

Regeln beachten. Zeitgemäße Lehre, Forschung und Verwaltung sollte das Thema KI nicht aussparen. Jedoch dürfen personenbezogene Daten nur in generative KI-Tools eingegeben werden, wenn die Softwarebetreiber diese Daten weder Dritten zugänglich machen noch als Trainingsdaten nutzen. Über den Datenschutz hinaus ist auch die Eingabe vertraulicher Informationen, sensibler Forschungsdaten oder interner Dokumente nicht zulässig.

Tools auswählen und konfigurieren. Datensparsame KI-Tools sollten bevorzugt werden. Manche Tools können so eingestellt werden, dass die Chatverläufe nicht als Trainingsdaten weiterverwendet werden. Dies ist oft mit nur einem Klick möglich, vgl. die Empfehlungen zu ChatGPT vom Datenschutz-Team. Vor der verpflichtenden Einführung in der Lehre müssen die Tools datenschutzrechtlich geprüft werden.

💬 „Was sollte aus urheberrechtlicher Sicht beim Einsatz von KI beachtet werden?“

KI ist kein Urheber. Nach aktueller Rechtslage können generative KI-Tools nicht Urheber sein, denn „Urheber ist der Schöpfer des Werkes“ und muss somit eine natürliche Person sein (§ 7 Urhg). Der KI-Output wäre demnach also nicht urheberrechtlich geschützt.

Abstand zum Werk. Geschützt könnten jedoch die ursprünglichen Trainingsdaten sein. Eine Eins-zu-Eins-Ausgabe ist aufgrund der statistischen Funktionsweise von generativer KI meist unwahrscheinlich. Es gibt jedoch Tools, bei denen bspw. durch den Zugriff auf das Internet Ergebnisse ausgegeben werden, die „einen hinreichenden Abstand zum benutzten Werk“ (§ 32 Abs. 1 UrhG) vermissen lassen. Die Nutzung dieses Outputs könnte eine Urheberrechtsverletzung darstellen.

Urheberrechte beachten. Für die Nutzer*innen ist es meist nicht möglich, die von der KI ggf. unrechtmäßig übernommenen Inhalte und deren Urheber*innen zu identifizieren. Dennoch kann der Urheber die Löschung verlangen, wenn KI-Ergebnisse mit seinen Inhalten öffentlich zugänglich gemacht werden. Er hätte bei Vorsatz oder Fahrlässigkeit ggf. sogar Anspruch auf Schadenersatz. Bei der Eingabe von Inhalten sollten Sie daher keine urheberrechtlich geschützten Texte, Bilder, Videos etc. verwenden, um die Rechte der Urheber nicht zu verletzen.

Wissenschaftliche Arbeiten

💬 „Können die Ergebnisse von KI-Tools in wissenschaftlichen Arbeiten zitiert werden?“

Zitation. KI-Tools generieren ihre Ergebnisse auf Basis einer sehr großen Anzahl von Trainingsdaten nach einer bestimmten statistischen Logik. Dieser Output kann inhaltlich falsch „zusammengewürfelt“ sein und bspw. fiktive („halluzinierte“) Literaturverweise oder fehlerhafte Grafiken enthalten. Die Informationsquellen sind für die Rezipienten oft nicht nach vollziehbar und nicht verifizierbar, da der gleiche Prompt meist nicht wieder zum gleichen Ergebnis führt. KI-Systeme sind zudem keine geeigneten wissenschaftlichen Quellen. Daher ist das Zitieren von KI-Ergebnissen in wissenschaftlichen Arbeiten in den meisten Fällen nicht sinnvoll und zudem forschungsethisch problematisch.

Kennzeichnung. Wenn jedoch KI-Ergebnisse übernommen werden sollen, müssen diese inhaltlich geprüft, überarbeitet und gekennzeichnet werden. Nur so kann im Sinne guter wissenschaftlicher Praxis und auch prüfungsrechtlich unterschieden werden, welche Teile eigenständig und welche durch eine generative KI erstellt worden sind. Bei unveränderten Übernahmen könnte per permanent link auf den spezifischen KI-Output verwiesen werden (wenn vorhanden). Im Methodenteil könnten die genutzten KI-Tools und der Einsatzzweck aufgeführt werden, z.B. Nutzung von Claude 3 für das Ausformulieren von Stichpunkten in der Einleitung

Zitierempfehlung. Hier ein Vorschlag zur Zitation von KI-Systemen, angelehnt an den APA Style:
OpenAI. (2024). ChatGPT (Version 3.5) [Large language model]. https://chat.openai.com/share/5ea85ee7-06a9-4760-ab5c-65ee3e8f54aa Dies kann analog auf andere KI-Systeme übertragen werden:
Mistral AI (2024). Mixtral (Version 8x7B) [Large language model]. https://chat.mistral.ai

Weitere Empfehlungen siehe Handreichung der DBWM (PDF-Datei)

Konzeption & Didaktik

💬 „Was sollte aus didaktischer Sicht beachtet werden?“

Lernziele erreichen. Der Einsatz von KI in Lehre und Prüfungen ist nur sinnvoll, wenn die angestrebten Lernziele trotz KI-Nutzung erreicht und eigenständige Leistungen der Studierenden geprüft werden können bzw. wenn der Einsatz von KI Inhalt der Prüfung ist. Welche Kompetenzen sowohl wegen aber auch trotz der Verfügbarkeit von KI-Tools vermittelt werden, sollte für das jeweilige Fach diskutiert und entschieden werden. Passen Sie Prüfungen bzw. Curricula entsprechend darauf an, um „Deskilling“ zu vermeiden.

Kompetenzorientierte Prüfungsfragen. Vor allem für unbeaufsichtigte schriftliche Prüfungs- und Studienleistungen stellt sich die Frage, wie diese Formate noch sinnvoll genutzt werden können. Nicht so leicht mit der KI lösbar könnten kompetenzorientierte Aufgaben sein, die kritisches Denken, Meinungen oder Reflexionen in Bezug zur Lehrveranstaltung erfordern. Auch ein Wechsel von einer großen summativen Distanzprüfung am Semesterende (z.B. Hausarbeit) zu mehreren semesterbegleitenden Leistungsnachweisen kann hilfreich sein.

Aufklärung leisten. Soweit möglich, sensibilisieren Sie die Studierenden für die Risiken von KI-Tools. Fördern Sie einen kritischen und reflektierten Umgang mit generativen KI-Tools, vor allem hinsichtlich „halluzinierter“ Quellenangaben, inhaltlichen Fehlern, Bias/Vorurteilen etc. Weiterführende Informationen zu KI finden Sie am Ende dieser Seite.

💬 „Eignet sich generative KI zur Formulierung von Prüfungsaufgaben?“

Bei der Erstellung von Prüfungs- oder Übungsaufgaben können KI-Tools hilfreich sein. Der Output muss jedoch hinsichtlich der inhaltlichen Richtigkeit und der Passung zu den Lernzielen kritisch überprüft werden.

💬 „Eignet sich generative KI zur Bewertung von studentischen Leistungen?“

Keine automatisierte Bewertung. Eine vollständig automatisierte Bewertung von Studien- oder Prüfungsleistungen ist nicht zulässig (basierend auf Art. 22 DSGVO). Das heißt, der Output darf nicht eins zu eins übernommen werden, sondern digitale Tools wie KI dürfen nur als Hilfsmittel dienen. Zum Beispiel könnte KI zum Ausformulieren von Stichpunkten für ein Feedback genutzt werden.

Welche KI-Tools gibt es?

Eine Übersicht über Einsatzmöglichkeiten und einige Tools finden Sie auf dieser Liste. Beachten Sie, dass diese noch nicht datenschutzrechtlich geprüft sind. An der TU Berlin laufen zur Zeit Überlegungen zu verschiedenen Tools.

🏫 Statements aus der TU Berlin

📚 Kurse & Materialien

📘 Weitere Ressourcen

🦸‍♀️ Beratung


Diese Seite befindet sich derzeit im Aufbau. Falls Sie Fragen zu KI-Richtlinien haben, kontaktieren Sie gerne das Team digit unter teamdigit@zewk.tu-berlin.de

War dieser Artikel hilfreich?-10+1
ki/richtlinien.txt · Zuletzt geändert: 2024/05/26 12:58 von gabriela