Unterschiede

Hier werden die Unterschiede zwischen zwei Versionen angezeigt.

--- ki:richtlinien [2024/02/27 22:45] – [Entwurf für "lebende" KI-Leitlinien] gabriela
+++ ki:richtlinien [2025/10/15 11:35] (aktuell) – Links ausgetauscht und aktualisiert julia
@@ Zeile 1: / Zeile 1: @@
-===== Entwurf für "lebende" KI-Leitlinien =====
+===== "Lebende" KI-Leitlinien =====
-Generative KI bietet vielfältige Chancen für die Hochschulen und wird künftig in fast allen Bereichen eine Rolle spielen. Gleichzeitig entstehen Herausforderungen, vor allem rechtlicher und ethischer Art, denen begegnet werden muss.//
+Generative KI bietet vielfältige Chancen für die Hochschullehre, gleichzeitig entstehen einige Herausforderungen, vor allem rechtlicher und ethischer Art.//
-**Wie wollen wir an der TU Berlin mit generativer KI umgehen?**// Einige der bisherigen Überlegungen sind im Folgenden dargestellt und werden regelmäßig angepasst.
+**Wie wollen wir an der TU Berlin mit generativer KI umgehen?**// Die bisherigen Überlegungen sind im Folgenden dargestellt.
+<WRAP important>
-<WRAP center round important>
+Wir freuen uns über Rückmeldungen und Diskussionen im Forum zu [[https://isis.tu-berlin.de/course/view.php?id=37075|KI an der TU Berlin]] oder per Mail an [[teamdigit@zewk.tu-berlin.de|teamdigit@zewk.tu-berlin.de]].
-Diese Seite befindet sich derzeit im Aufbau. Diskussionen und Rückmeldungen sind erwünscht! Wir haben dafür ein [[https://isis.tu-berlin.de/course/view.php?id=37075|Forum zu KI an der TU Berlin]] eingerichtet und freuen uns über Ihre und eure Beteiligung. Ansonsten gern auch per Mail an [[mailto:teamdigit@zewk.tu-berlin.de|teamdigit@zewk.tu-berlin.de]].
 </WRAP>
@@ Zeile 17: / Zeile 16: @@
 <wrap em>Eigenständigkeit gewährleisten.</wrap> Hochschulprüfungen sollen die Leistungen der Studierenden bewerten und nicht (versehentlich) die von der KI ausgegebenen Ergebnisse. In Hinblick auf die Lernziele müssen die Studierenden also eine **signifikante Eigenleistung** zeigen können. Wenn KI genutzt wird, liegt die Verantwortung für das Produkt nicht bei der KI, sondern bei den Nutzenden, z.B. den Studierenden oder Forschenden.
-Aktualisieren Sie Ihre Einverständniserklärung bzw. nutzen Sie die neue Vorlage des Referat Prüfungen (Link folgt bis zum Sommersemester).
+Aktualisieren Sie Ihre Einverständniserklärung bzw. nutzen Sie die neue [[https://www.static.tu.berlin/fileadmin/www/10002461/Pruefungsamt/Formulare_Bescheide/Abschlussarbeit_Hinweise.pdf|Vorlage]] des Referat Prüfungen.
 <wrap em>Transparenz herstellen.</wrap> Informieren Sie in der Lehrveranstaltung rechtzeitig, ob und zu welchen Zwecken, die Nutzung von KI als Hilfsmittel erlaubt ist. Machen Sie die Studierenden im Vorfeld mit den Tools vertraut. Erklären Sie den **Sinn von Regeln und Verboten** und weisen Sie auf mögliche Folgen bei Verstößen hin. Diese können von Punktabzug oder Nichtbestehen der Prüfung bis zur Exmatrikulation bei wiederholter Täuschung reichen.
@@ Zeile 41: / Zeile 40: @@
 💬 //"Was sollte aus urheberrechtlicher Sicht beim Einsatz von KI beachtet werden?"//
-<wrap em>KI ist kein Urheber.</wrap> Nach aktueller Rechtslage können generative KI-Tools nicht Urheber sein, denn „Urheber ist der Schöpfer des Werkes“ und muss somit eine natürliche Person sein (§ 7 Urhg). Der KI-Output wäre demnach also nicht urheberrechtlich geschützt.
+<wrap em>KI ist kein Urheber.</wrap> Nach aktueller Rechtslage können generative KI-Tools nicht Urheber sein, denn „Urheber ist der Schöpfer des Werkes“ und muss somit eine natürliche Person sein (§ 7 Urhg). Demnach wäre also der **KI-Output urheberrechtlich nicht geschützt**.
-<wrap em>Abstand zum Werk.</wrap> Geschützt könnten jedoch die ursprünglichen Trainingsdaten sein. Eine Eins-zu-Eins-Ausgabe ist aufgrund der statistischen Funktionsweise von generativer KI meist unwahrscheinlich. Es gibt jedoch Tools, bei denen bspw. durch den Zugriff auf das Internet Ergebnisse ausgegeben werden, die "einen hinreichenden Abstand zum benutzten Werk" (§ 32 Abs. 1 UrhG) vermissen lassen. Die Nutzung dieses Outputs könnte eine Urheberrechtsverletzung darstellen.
+<wrap em>Abstand zum Werk.</wrap> Jedoch könnten die **ursprünglichen Trainingsdaten geschützt** sein. Eine Eins-zu-Eins-Ausgabe ist aufgrund der Funktionsweise von generativer KI meist unwahrscheinlich. Es gibt jedoch Tools, bei denen bspw. durch den Zugriff auf das Internet Ergebnisse ausgegeben werden, die "einen hinreichenden Abstand zum benutzten Werk" (§ 32 Abs. 1 UrhG) vermissen lassen. Die Nutzung dieses Outputs könnte eine Urheberrechtsverletzung darstellen und wäre zu vermeiden.
-<wrap em>Urheberrechte beachten.</wrap> Für die Nutzer*innen ist es meist nicht möglich, die von der KI ggf. unrechtmäßig übernommenen Inhalte und deren Urheber*innen zu identifizieren. Dennoch kann der Urheber die Löschung verlangen, wenn KI-Ergebnisse mit seinen Inhalten öffentlich zugänglich gemacht werden. Er hätte bei Vorsatz oder Fahrlässigkeit ggf. sogar Anspruch auf Schadenersatz. Bei der Eingabe von Inhalten sollten Sie daher keine urheberrechtlich geschützten Texte, Bilder, Videos etc. verwenden, um die Rechte der Urheber nicht zu verletzen.
+<wrap em>Urheberrechte beachten.</wrap> Für die Nutzer*innen ist es meist nicht möglich, die von der KI ggf. unrechtmäßig übernommenen Inhalte und deren Urheber*innen zu identifizieren. Dennoch können die Urheber*innen die Löschung verlangen, wenn KI-Ergebnisse mit ihren Inhalten öffentlich zugänglich gemacht werden. Sie hätten bei Vorsatz oder Fahrlässigkeit ggf. sogar Anspruch auf Schadenersatz. Bei der Eingabe von Inhalten sollten Sie daher **keine urheberrechtlich geschützten Inhalte verwenden** (z.B. Texte, Bilder, Videos etc.), um die Rechte der Urheber*innen nicht zu verletzen.
 \\
 ==== Wissenschaftliche Arbeiten ====
@@ Zeile 51: / Zeile 50: @@
 💬 //"Können die Ergebnisse von KI-Tools in wissenschaftlichen Arbeiten zitiert werden?"//
-<wrap em>Zitation.</wrap> KI-Tools generieren ihre Ergebnisse auf Basis einer sehr großen Anzahl von Trainingsdaten nach einer bestimmten statistischen Logik. Dieser Output kann inhaltlich falsch „zusammengewürfelt“ sein und bspw. fiktive ("halluzinierte") Literaturverweise oder fehlerhafte Grafiken enthalten. Die Informationsquellen sind für die Rezipienten oft nicht **verifizierbar**, da der gleiche Prompt meist nicht wieder zum gleichen Ergebnis führt. Daher ist das Zitieren von KI-Ergebnissen in wissenschaftlichen Arbeiten in den meisten Fällen nicht sinnvoll und zudem forschungsethisch problematisch.
+<wrap em>Zitation.</wrap> KI-Tools generieren ihre Ergebnisse auf Basis einer sehr großen Anzahl von Trainingsdaten nach einer bestimmten statistischen Logik. Dieser Output kann inhaltlich falsch „zusammengewürfelt“ sein und bspw. fiktive ("halluzinierte") Literaturverweise oder fehlerhafte Grafiken enthalten. Die Informationsquellen sind für die Rezipienten oft nicht nachvollziehbar und **nicht verifizierbar**, da der gleiche Prompt in der Regel nicht wieder zum gleichen Ergebnis führt. KI-Systeme sind analog zu Wikipedia & Co. zudem keine geeigneten wissenschaftlichen Quellen. Daher ist das Zitieren von KI-Ergebnissen in wissenschaftlichen Arbeiten in den meisten Fällen nicht sinnvoll und zudem forschungsethisch problematisch.
-<wrap em>Kennzeichnung.</wrap> Wenn jedoch KI-Ergebnisse übernommen werden sollen, müssen diese inhaltlich geprüft, überarbeitet und gekennzeichnet werden. Nur so kann im Sinne guter wissenschaftlicher Praxis und auch prüfungsrechtlich unterschieden werden, welche Teile eigenständig und welche durch eine generative KI erstellt worden sind. Bei unveränderten Übernahmen könnte per permanent link auf den spezifischen KI-Output verwiesen werden (wenn vorhanden).
+<wrap em>Kennzeichnung.</wrap> Wenn jedoch KI-Ergebnisse übernommen werden sollen, müssen diese **inhaltlich geprüft, überarbeitet und gekennzeichnet** werden. Nur so kann im Sinne guter wissenschaftlicher Praxis und auch prüfungsrechtlich unterschieden werden, welche Teile eigenständig und welche durch eine generative KI erstellt worden sind. Bei unveränderten Übernahmen könnte per permanent link auf den spezifischen KI-Output verwiesen werden (wenn vorhanden). Im Methodenteil sollten die genutzten KI-Tools und deren Einsatzzwecke aufgeführt werden, z.B. Nutzung von Llama für das Ausformulieren von Stichpunkten in der Einleitung.
+<wrap em>Zitierempfehlung.</wrap>
+Hier ein Vorschlag zur Zitation von KI-Systemen, adaptiert vom [[https://apastyle.apa.org/blog/how-to-cite-chatgpt|APA Style]]:\\
+OpenAI. (20XX). //ChatGPT// (Version X.Y) [Large language model]. https://chat.openai.com [11.11.20XX]\\
+Dies kann analog auf andere KI-Systeme übertragen werden:\\
+Mistral AI (20XX). //Mixtral // (Version XxYB) [LLM]. https://chat.mistral.ai [07.07.20XX]\\
+Weitere Empfehlungen siehe Informationen und [[https://www.tu.berlin/wm/bibliothek/lernen-arbeiten/kuenstliche-intelligenz-tools-und-wissenschaftliches-arbeiten|Leitfaden der DBWM]] zum "Einsatz von künstlichen Intelligenzen in Abschlussarbeiten"
-<wrap em>Zitierempfehlung.</wrap> Folgt ...
-siehe auch die [[https://www.static.tu.berlin/fileadmin/www/40000030/DBWM/2023_KI_und_gute_wissenschaftlichePraxis_FKv5.pdf|Handreichung der DBWM (PDF-Datei)]]
 ==== Konzeption & Didaktik ====
@@ Zeile 62: / Zeile 66: @@
 💬 //"Was sollte aus didaktischer Sicht beachtet werden?"//
-<wrap em>Lernziele erreichen.</wrap> Der Einsatz von KI in Lehre und Prüfungen ist nur sinnvoll, wenn die angestrebten Lernziele trotz KI-Nutzung erreicht und eigenständige Leistungen der Studierenden geprüft werden können bzw. wenn der Einsatz von KI Inhalt der Prüfung ist. Welche Kompetenzen sowohl wegen aber auch trotz der Verfügbarkeit von KI-Tools vermittelt werden, sollte für das jeweilige Fach diskutiert und entschieden werden. Passen Sie Prüfungen bzw. Curricula entsprechend darauf an, um "[[https://hochschulforumdigitalisierung.de/news/diskussionspapier-deskilling-durch-kuenstliche-intelligenz/|Deskilling]]" zu vermeiden.
+<wrap em>Lernziele neu definieren.</wrap> Der Einsatz von KI in Lehre und Prüfungen ist nur sinnvoll, wenn die angestrebten Lernziele trotz KI-Nutzung erreicht und eigenständige Leistungen der Studierenden geprüft werden können bzw. wenn der Einsatz von KI Inhalt der Prüfung ist. Welche Kompetenzen sowohl wegen aber auch trotz der Verfügbarkeit von KI-Tools vermittelt werden sollen, sollte **für das jeweilige Fach** diskutiert und definiert werden. Passen Sie basierend darauf Prüfungen bzw. Curricula entsprechend an, um "[[https://hochschulforumdigitalisierung.de/news/diskussionspapier-deskilling-durch-kuenstliche-intelligenz/|Deskilling]]" zu vermeiden.
-<wrap em>Kompetenzorientierte Prüfungsfragen.</wrap> Vor allem für unbeaufsichtigte schriftliche Prüfungs- und Studienleistungen stellt sich die Frage, wie diese Formate noch sinnvoll genutzt werden können.
+<wrap em>Kompetenzorientierte Prüfungsfragen.</wrap> Vor allem für unbeaufsichtigte schriftliche Prüfungs- und Studienleistungen stellt sich die Frage, wie diese Formate noch sinnvoll genutzt werden können - wahrscheinlich nur mit KI.
-Nicht so leicht mit der KI lösbar könnten kompetenzorientierte Aufgaben sein, die kritisches Denken, Meinungen oder Reflexionen in Bezug zur Lehrveranstaltung erfordern. Auch ein Wechsel von einer großen summativen Distanzprüfung am Semesterende (z.B. Hausarbeit) zu mehreren semesterbegleitenden Leistungsnachweisen kann hilfreich sein.
+Allenfalls funktionieren noch kompetenzorientierte Aufgaben, die kritisches Denken, Meinungen oder Reflexionen **in Bezug zur Lehrveranstaltung** erfordern. Auch ein Wechsel von einer großen summativen Distanzprüfung am Semesterende (z.B. Hausarbeit) zu mehreren semesterbegleitenden Leistungsnachweisen könnte hilfreich sein, allerdings nehmen die Fähigkeiten der KI-Tools stetig zu. Probieren Sie daher vorher aus, ob die KI Ihre Prüfungsfragen lösen kann.
-<wrap em>Aufklärung leisten.</wrap> Soweit möglich, **sensibilisieren** Sie die Studierenden für die Risiken von KI-Tools. Fördern Sie einen **kritischen und reflektierten Umgang** mit generativen KI-Tools, vor allem hinsichtlich „halluzinierter“ Quellenangaben, inhaltlichen Fehlern, Bias/Vorurteilen etc. Weiterführende Informationen zu KI finden Sie am Ende dieser Seite.
+<wrap em>Aufklärung leisten.</wrap> Soweit möglich, **sensibilisieren** Sie die Studierenden für die Risiken von KI-Tools. Fördern Sie einen **kritischen und reflektierten Umgang** mit generativen KI-Tools, vor allem hinsichtlich „halluzinierter“ Quellenangaben, inhaltlichen Fehlern, Bias/Vorurteilen etc.
+Schauen Sie sich dazu gern auch unsere Tipps [[konzept:schritte_ki_lehre|"In 8 Schritten Lehren mit KI"]] an.
 💬 //"Eignet sich generative KI zur Formulierung von Prüfungsaufgaben?"//
-Bei der **Erstellung von Prüfungs- oder Übungsaufgaben** können KI-Tools hilfreich sein. Der Output muss jedoch hinsichtlich der inhaltlichen Richtigkeit und der Passung zu den Lernzielen kritisch überprüft werden.
+Bei der **Erstellung von Prüfungs- oder Übungsaufgaben** können KI-Tools hilfreich sein. Der Output muss jedoch hinsichtlich der inhaltlichen Richtigkeit und der Passung zu den Lernzielen kritisch überprüft und angepasst werden.
 💬 //"Eignet sich generative KI zur Bewertung von studentischen Leistungen?"//
@@ Zeile 79: / Zeile 85: @@
 ==== Welche KI-Tools gibt es? ====
-Eine Übersicht über Einsatzmöglichkeiten und einige Tools finden Sie auf dieser [[ki:einsatz|Liste]]. Beachten Sie, dass diese noch nicht datenschutzrechtlich geprüft sind. An der TU Berlin laufen zur Zeit [[https://blogs.tu-berlin.de/datenschutz_notizen/2024/02/13/hawki-zugang-zu-chatgpt-4-fuer-hochschulangehoerige/|Überlegungen zu verschiedenen Tools]].
+Eine KI-Nutzung ohne Anmeldung bei kommerziellen Angeboten wie ChatGPT, Gemini oder Copilot bietet die [[https://academiccloud.de/de/services/chatai/|Chat AI]] der Academic Cloud, auf die kostenlos und datensparsam mit TU-Account per [[https://www.unidigital.news/academic-cloud-hochschulmitarbeiter-koennen-mit-ihrem-login-kostenlos-open-source-modelle-nutzen/|föderierter Anmeldung]] zugegriffen werden kann.
+Wir haben darüber hinaus eine Übersicht über weitere Tools und [[ki:einsatz|Einsatzmöglichkeiten]] zusammengestellt.
-Todos:
-\\
-Wie kann ich KI in der Forschung einsetzen? \\
-...\\
 ==== Links & weiterführende Ressourcen ====
@@ Zeile 94: / Zeile 96: @@
 === 📚 Kurse & Materialien ===
+  * [[https://programm.zewk.tu-berlin.de/s/KI-TUB|Unsere Kursreihe KI@TUB]] - Kurse an der ZEWK zu Künstlicher Intelligenz in Lehre und Forschung an der TU Berlin
   * [[https://www.tu.berlin/bzhl/ressourcen-fuer-ihre-lehre/ressourcen-nach-themenbereichen/ki-in-der-hochschullehre|KI-Kurse & Materialien des BZHL]] Umfassende Sammlung von Materialien und Gedanken vom Berliner Zentrum für Hochschullehre (BZHL) zum Einsatz von KI in Lehre und Wissenschaft
   * [[https://ki-campus.org/videos/chatgpt-erklaert|Videoreihe des KI-Campus: „ChatGPT – kurz erklärt“]] Sammlung von kurzen und knackigen Videos, die grundlegende Konzepte und Anwendungen von ChatGPT vermitteln
-  * [[https://hochschulforumdigitalisierung.de/de/blog/chatgpt-im-hochschulkontext-–-eine-kommentierte-linksammlung|Linksammlung des Hochschulforum Digitalisierung (HFD)]] Sehr ausführliche kommentierte Linksammlung zum Thema ChatGPT, vor allem im Hochschulkontext
+  *[[https://www.tu.berlin/wm/bibliothek/lernen-arbeiten/kuenstliche-intelligenz-tools-und-wissenschaftliches-arbeiten| Einsatz von künstlichen Intelligenzen in Abschlussarbeiten]] Handreichung der DBWM (Die Bibliothek Wirtschaft & Management) der Fak VII der TU Berlin
-  *[[https://www.static.tu.berlin/fileadmin/www/40000030/DBWM/2023_KI_und_gute_wissenschaftlichePraxis_FKv5.pdf| Klatt, F. (2023). Der Einsatz von künstlichen Intelligenzen (KI) beim Verfassen von Abschlussarbeiten]] Handreichung der DBWM (Die Bibliothek Wirtschaft & Management) der Fak VII der TU Berlin zum Einsatz von ChatGPT in Abschlussarbeiten
+  *[[https://www.berlin-universities-publishing.de/aktuelles/2024-05-02_ki-leitlinie.html|Zitation von KI-Tools]] Leitlinien und Handreichung der Berlin Universities Publishing
 === 📘 Weitere Ressourcen ===
-  * [[https://csp.uber.space/phhd/rulesfortools.pdf|Spannagel, C. (2023). Rules for Tools]] Kurze Zusammenfassung (1 Seite jeweils Deutsch/Englisch) zu Regeln und Richtlinien für den Einsatz von KI-Werkzeugen für Lehrende und Studierende
+  * [[https://github.com/dunkelmunkel/scientific-work/blob/main/rulesfortools/rulesfortools.pdf|Spannagel, C. (2023). Rules for Tools]] Kurze Zusammenfassung (1 Seite jeweils Deutsch/Englisch) zu Regeln und Richtlinien für den Einsatz von KI-Werkzeugen für Lehrende und Studierende
   * [[https://hochschulforumdigitalisierung.de/news/diskussionspapier-deskilling-durch-kuenstliche-intelligenz/|Reinmann, G. (2023). Diskussionspapier: Deskilling durch Künstliche Intelligenz?]] Eine kritische Auseinandersetzung mit den Auswirkungen von KI auf die Kompetenzentwicklung (insbes. Abschnitte 4, 5 und 6).
   * [[https://www.dfg.de/de/aktuelles/neuigkeiten-themen/info-wissenschaft/2023/info-wissenschaft-23-72|Leitlinien der DFG (Deutschen Forschungsgemeinschaft)]] für den Umgang mit generativen Modellen für die Text- und Bilderstellung bei der Antragserstellung
+  * [[https://portal.kobv.de/uid.do?query=b3kat_BV047604800&index=internal&plv=2|Standardwerk zum Prüfungsrecht]]: Fischer, E., Jeremias, C. & Dieterich, P. (2022): Prüfungsrecht (8. Aufl.): NJW Praxis, Band 27/2. Beck
 === 🦸‍♀️ Beratung ===
+  * Buchen Sie einen [[https://programm.zewk.tu-berlin.de/e/IMPULS-KI-LEHRE|Beratungstermin für einen Impulsworkshop zu "KI in der Lehre"]] für Ihr Fachgebiet/Institut!
   * [[https://www.tu.berlin/zewk/arbeitsbereiche/wissenschaftliche-weiterbildung/medienproduktion#c869314|Individuelle Beratung durch das Team digit der ZEWK]] Sprechen Sie uns gern an!
+<WRAP info 100%>
-----
+Falls Sie Fragen oder Kommentare zu den KI-Richtlinien haben, kontaktieren Sie gerne das Team digit unter [[teamdigit@zewk.tu-berlin.de|teamdigit@zewk.tu-berlin.de]]
+</WRAP>
-Diese Seite befindet sich derzeit im Aufbau. Falls Sie Fragen zu KI-Richtlinien haben, kontaktieren Sie gerne das Team digit unter [[mailto:teamdigit@zewk.tu-berlin.de|teamdigit@zewk.tu-berlin.de]]