Wir, die Wissenschaftspressekonferenz (WPK) als Vertretung der Wissenschaftsjournalisten in Deutschland, setzen uns für einen verantwortungsvollen Umgang mit KI im Bereich der Information und öffentlichen Meinungsäußerung ein. Darüber hinaus appellieren wir an die Wissenschaftsverbände, Hochschulen und Forschungsinstitute, einen ebenso verantwortungsvollen Umgang bei der Generierung neuen Wissens zu praktizieren.
KI-Systeme haben grundsätzlich das Potential, das Zusammenleben in unserer Gesellschaft zu verändern. Dabei sehen wir KI-Systeme sowohl als Chance wie auch als eine Herausforderung für das Recht auf qualitativ hochwertige Information. Entscheidend ist, wie sie konzipiert, gesteuert und angewendet werden.
Als Journalisten sind wir uns unserer besonderen Verantwortung in der Gesellschaft als Informationsvermittler und somit als Eckpfeiler für die Demokratie bewusst. Sowohl für Journalisten als auch für Medienunternehmen ist daher unserer Ansicht nach Transparenz, Sorgfalt bei der Überprüfung der KI-generierten Inhalte, Verantwortungsbewusstsein und die Bewahrung der journalistischen Ethik beim Umgang mit KI-Systemen oberstes Gebot. Dementsprechend schließen wir uns als Wissenschaftspressekonferenz der „Paris Charta zu KI und Journalismus“ – mit einigen Ergänzungen – an.
Als Mitglied in internationalen Verbänden engagiert sich die WPK dafür, die Grundzüge der Paris-Charta auch international zu diskutieren und auf die Agenda zu setzen.
1. DIE ETHIK DES JOURNALISMUS IST DIE RICHTSCHNUR FÜR DIE ART UND WEISE, WIE MEDIENUNTERNEHMEN UND JOURNALISTEN TECHNOLOGIEN NUTZEN.
Medienunternehmen und Journalisten nutzen Technologien, die ihre Fähigkeit verbessern, ihre Hauptaufgabe zu erfüllen: das Recht aller Menschen auf qualitativ hochwertige, vertrauenswürdige Informationen zu gewährleisten. Die Verfolgung und Erreichung dieses Ziels sollte ihre Entscheidungen in Bezug auf technologische Hilfsmittel bestimmen.
Die Nutzung und Entwicklung von KI-Systemen im Journalismus muss die Grundwerte der journalistischen Ethik wahren, einschließlich Wahrhaftigkeit und Genauigkeit, Fairness, Unparteilichkeit, Unabhängigkeit, Nicht-Schädigung, Nicht-Diskriminierung, Verantwortlichkeit, Respekt für die Privatsphäre und die Vertraulichkeit von Quellen.
2. DIE MEDIEN STELLEN DAS MENSCHLICHE HANDELN IN DEN VORDERGRUND.
Die menschliche Entscheidungsfindung muss sowohl bei langfristigen Strategien als auch bei den täglichen redaktionellen Entscheidungen im Mittelpunkt bleiben.
Der Einsatz von KI-Systemen sollte eine bewusste und gut informierte Entscheidung sein, die von Menschen getroffen wird. Die Redaktionen müssen die Ziele, den Umfang und die Einsatz-bedingungen für jedes KI-System klar definieren. Sie müssen die Auswirkungen der eingesetzten KI-Systeme querschnittlich und kontinuierlich überwachen, die strikte Einhaltung der Nutzungs-bedingungen sicherstellen und die Möglichkeit behalten, sie jederzeit zu deaktivieren.
3. KI-SYSTEME, DIE IM JOURNALISMUS EINGESETZT WERDEN, SOLLTEN EINER VORHERIGEN UNABHÄNGIGEN BEWERTUNG UNTERZOGEN WERDEN.
Die von Medien und Journalisten genutzten KI-Systeme sollten einer unabhängigen, umfassenden und gründlichen Bewertung unterzogen werden, an der auch journalistische Unterstützergruppen beteiligt sind. Bei dieser Bewertung muss die Einhaltung der Grundwerte der journalistischen Ethik eindeutig nachgewiesen werden.
Diese Systeme müssen die Privatsphäre, das geistige Eigentum und die Datenschutzgesetze respektieren. Für den Fall, dass diese Anforderungen nicht erfüllt werden, wird ein klarer Rahmen für die Rechenschaftspflicht geschaffen. Systeme, die vorhersehbar funktionieren und einfach erklärt werden können, werden bevorzugt.
Als Rahmen für die Rechenschaftspflicht würde die WPK es begrüßen, wenn Leitlinien für den Einsatz von KI im Journalismus Niederschlag in den „Ethischen Standards für den Journalismus“ des Presserats fänden und fortlaufend aktualisiert würden.
4. MEDIENUNTERNEHMEN SIND IMMER FÜR DIE INHALTE VERANTWORTLICH, DIE SIE VERÖFFENTLICHEN.
Medienunternehmen übernehmen die redaktionelle Verantwortung, auch für den Einsatz von KI bei der Sammlung, Verarbeitung oder Verbreitung von Informationen.
Sie sind für jeden von ihnen veröffentlichten Inhalt verantwortlich und rechenschaftspflichtig.
Verantwortlichkeiten, die mit dem Einsatz von KI-Systemen verbunden sind, sollten antizipiert, umrissen und den Menschen zugewiesen werden, um die Einhaltung der journalistischen Ethik und der redaktionellen Richtlinien zu gewährleisten.
5. DIE MEDIEN WAHREN BEI DER NUTZUNG VON KI-SYSTEMEN TRANSPARENZ.
Jeder Einsatz von KI, der sich erheblich auf die Produktion oder Verbreitung journalistischer Inhalte auswirkt, sollte klar offengelegt und jedem, der Informationen erhält, zusammen mit den entsprechenden Inhalten mitgeteilt werden.
Die Medien sollten ein öffentliches Verzeichnis der von ihnen genutzten KI-Systeme führen, in dem die Zwecke, der Umfang und die Bedingungen der Nutzung im Einzelnen aufgeführt sind.
Für die WPK geht daraus hervor, dass dieses Verzeichnis neben den spezifischen Regeln zum KI-Einsatz des jeweiligen Medienhauses leicht auffindbar sein sollte. Darüber hinaus sollte jedes Medienerzeugnis, dass unter Zuhilfenahme von KI erstellt wurde, hinreichend klar gekennzeichnet sein. Der Informationsrezipient sollte keine zusätzlichen Schritte unternehmen müssen, um einen solchen Einsatz bei einer Veröffentlichung nachvollziehen zu können.
6. MEDIENUNTERNEHMEN STELLEN DIE HERKUNFT UND RÜCKVERFOLGBARKEIT VON INHALTEN SICHER.
Die Medien sollten, wann immer dies möglich ist, modernste Instrumente einsetzen, die die Authentizität und Herkunft der veröffentlichten Inhalte garantieren und zuverlässige Angaben über deren Herkunft und etwaige spätere Änderungen liefern. Alle Inhalte, die diese Authentizitätsstandards nicht erfüllen, sollten als potenziell irreführend betrachtet und einer gründlichen Überprüfung unterzogen werden.
Aus Sicht der WPK sind zwei Aspekte von besonderer Bedeutung:
- Es sollte klar erkennbar sein, welche Quellen als Wissensbasis von der KI für das Medienerzeugnis verarbeitet wurden.
- Es sollte klar erkennbar sein, aus welchen kulturellen und sozialen Kontexten die Inhalte stammen.
7. IM JOURNALISMUS WIRD EINE KLARE TRENNLINIE ZWISCHEN AUTHENTISCHEN UND SYNTHETISCHEN INHALTEN GEZOGEN.
Journalisten und Medien bemühen sich um eine klare und zuverlässige Unterscheidung zwischen Inhalten, die aus der physischen Erfassung der realen Welt stammen (z. B. Fotos, Audio- und Videoaufnahmen), und solchen, die mit Hilfe von KI-Systemen erstellt oder erheblich verändert wurden. Sie sollten die Verwendung von authentischem Bild- und Tonmaterial bevorzugen, um tatsächliche Ereignisse darzustellen.
Die Medien müssen vermeiden, die Öffentlichkeit durch den Einsatz von KI-Technologien in die Irre zu führen. Insbesondere sollten sie davon absehen, KI-generierte Inhalte zu erstellen oder zu verwenden, die reale Aufnahmen und Aufzeichnungen imitieren oder sich realistisch als echte Personen ausgeben.
8. DIE KI-GESTEUERTE PERSONALISIERUNG UND EMPFEHLUNG VON INHALTEN WAHRT DIE VIELFALT UND DIE INTEGRITÄT DER INFORMATIONEN.
Die Medien sollten sich bei der Entwicklung und Nutzung von KI-Systemen für die automatische Personalisierung und Empfehlung von Inhalten von der journalistischen Ethik leiten lassen. Solche Systeme sollten die Informationsintegrität respektieren und ein gemeinsames Verständnis der relevanten Fakten und Standpunkte fördern.
Sie sollten unterschiedliche und nuancierte Perspektiven zu verschiedenen Themen aufzeigen und so Aufgeschlossenheit und demokratischen Dialog fördern.
Die Nutzung solcher Systeme muss transparent sein, und die Nutzer sollten die Möglichkeit haben, sie zu deaktivieren, um einen ungefilterten Zugang zu redaktionellen Inhalten zu gewährleisten.
9. JOURNALISTEN, MEDIENUNTERNEHMEN UND GRUPPEN, DIE DEN JOURNALISMUS UNTERSTÜTZEN, MÜSSEN SICH AN DER STEUERUNG VON KI BETEILIGEN.
Als wichtige Hüter des Rechts auf Information sollten Journalisten, Medien und journalistische Verbände eine aktive Rolle bei der Steuerung von KI-Systemen spielen. Sie sollten in jede globale oder internationale institutionelle Aufsicht über die KI-Governance und -Regulierung einbezogen werden. Sie sollten sicherstellen, dass die KI-Governance demokratische Werte respektiert
und dass die Vielfalt der Menschen und Kulturen in der Entwicklung von KI zum Ausdruck kommt.
Sie müssen an der Spitze des Wissens auf dem Gebiet der KI bleiben. Sie verpflichten sich, die Auswirkungen von KI genau, differenziert und kritisch zu untersuchen und darüber zu berichten.
Wir betonen, dass eine solche Steuerung und Kontrolle auch bei bestehenden Systemen fortlaufend geschehen sollte.
10. DER JOURNALISMUS HÄLT SEINE ETHISCHEN UND WIRTSCHAFTLICHEN GRUNDLAGEN IN DER ZUSAMMENARBEIT MIT KI-ORGANISATIONEN AUFRECHT.
Der Zugang zu journalistischen Inhalten durch KI-Systeme sollte durch formale Vereinbarungen geregelt werden, die die Nachhaltigkeit des Journalismus sicherstellen und die langfristigen gemeinsamen Interessen von Medien und Journalisten wahren.
Die Eigentümer von KI-Systemen müssen die Quellen nennen, die Rechte an geistigem Eigentum respektieren und den Rechteinhabern einen gerechten Ausgleich gewähren, der in Form einer angemessenen Vergütung an die Journalisten weitergegeben werden muss. Die Eigentümer von KI-Systemen sind außerdem verpflichtet, eine transparente und detaillierte Aufzeichnung der
journalistischen Inhalte zu führen, die zum Trainieren und Füttern ihrer Systeme verwendet wurden.
Die Rechteinhaber müssen die Weiterverwendung ihrer Inhalte durch KI-Systeme davon abhängig machen, dass die Integrität der Informationen und die Grundprinzipien der journalistischen Ethik respektiert werden. Sie fordern gemeinsam, dass KI-Systeme so konzipiert und eingesetzt werden, dass sie hochwertige, vertrauenswürdige und pluralistische Informationen garantieren.