Schlagwortarchiv für: Künstliche Intelligenz

Leuchtende Glühlampe und binäre Zahlen; Bild: Grimme-Institut / Michael Schnell

Wie künstliche Intelligenz in der kulturellen Bildung genutzt werden kann und vor welchen Herausforderungen wir dabei stehen, darum ging es bei der Tagung „Mensch – Maschine – Kultur – Bildung“. Das Grimme-Institut hat als Veranstaltungspartner teilgenommen und im Vorfeld ein Interview mit Horst Pohlmann von der Akademie der Kulturellen Bildung und Harald Gapski vom Grimme-Institut geführt.

Eine Art Tinder bei der Personalauswahl, Roboterjournalismus, Ahnenbilder, die sich bewegen, und Fake-Videos – der Einsatz von Künstlicher Intelligenz (KI) im Alltag ist vielfältig. Der Medienbildungshub des Grimme-Instituts hat aktuelle Diskussionen aus der Presse zusammengetragen.

Schlagwortarchiv für: Künstliche Intelligenz

Bewertung der Persönlichkeit: KI bei der Personalsuche

Künstliche Intelligenz wird zunehmend auch bei der Suche nach bzw. Vermittlung von qualifizierten Arbeitskräften verwendet. Kann KI den Charakter oder die Persönlichkeit eines Menschen richtig einschätzen?

Lebenslauf per App bewerten

Lebenslauf per App bewerten; Bild: Grimme-Institut / Michael Schnell

Tagesschau.de berichtete am 16.02.2021, dass immer mehr Unternehmen auf den Markt drängen, die künstliche Intelligenz bei der Personalrekrutierung einsetzen wollen.[1] Und Spiegel Online spricht bereits von „Tinder für Jobs“.[2] Welche Ansätze zum Thema „Personalmanagement und KI“ gibt es?

Da ist zum einen eine KI, die Vorstellungsvideos bewertet, Verhaltensweisen erkennt und ein Persönlichkeitsprofil erstellt. Hierzu werden laut Hersteller Stimme, Sprache, Gestik und Mimik untersucht. Tageschau.de berichtet über den Test dieser Persönlichkeitsanalyse durch den Bayerischen Rundfunk. Dabei gab es einige überraschende Erkenntnisse:

„Bei einem Austausch des Hintergrunds erhält die Testperson für ein und denselben Bewerbungsclip eine andere Persönlichkeitseinschätzung. Statt ‚bodenständig‘ erscheint ein Proband beispielsweise plötzlich ‚interessiert‘, aus ‚zurückhaltend‘ wird ‚lebhaft‘ – lediglich mit einer Bücherwand im Hintergrund statt mit einer weißen Wand. Ähnliche unerwartbare Veränderungen ergeben sich bei leicht veränderten Helligkeits- oder Sättigungswerten im Video.“ (Tagesschau)

Auch bei weiteren äußerlichen Veränderungen zeigten sich Ergebnisse in der Bewertung der Persönlichkeit, die eigentlich nichts mit Charaktereigenschaften und Individualität zu tun haben. Dass diese Äußerlichkeiten von der Software nicht herausgerechnet werden, ist für Uwe Kanning, Professor für Wirtschaftspsychologie an der Hochschule Osnabrück, ein großes Manko. Und noch mehr: Vorurteile und Stereotype können durch eine solche Software sogar noch verstärkt werden: „Etwa, dass gutaussehende Menschen als intelligenter und große Menschen als führungsstärker wahrgenommen werden.“[3]

Spiegel Online berichtet über eine Tinder-ähnliche Software zur Job- und Personalsuche: Wer eine Anstellung sucht, lädt seinen Lebenslauf hoch, schaut sich die Angebote an und wischt sie entweder hinweg oder auf die Merkliste. Wer Personal sucht, macht dasselbe mit den Bewerber*innen. Insgesamt 39 Algorithmen bewerten Fähigkeiten und Qualifikationen und versuchen so Firmen und Suchende zusammenzubringen.

Auf diese Weise sollen Vorurteile und Diskriminierungen minimiert werden. Allerdings können auch Algorithmen nicht erkennen, wann jemand übertreibt oder sich unterschätzt. Auch kommt es vor, dass Personalverantwortliche nur bestimmte Bewerbertypen in die nähere Auswahl ziehen oder wischen. Ein gutes System sollte dies bemerken und darauf hinweisen. Auch dazu gibt es bereits Techniken. Aber, um bei dem Tinder-Vergleich zu bleiben:

„Wer würde sich schon bei der Wahl seiner neuen Liebe auf den Lebenslauf verlassen und nur diejenigen treffen, die die richtigen Schlüsselbegriffe haben?“[4]

[1] Elisa Harlan, Uli Köppen, Oliver Schnuck und Lisa Wreschniok: KI zur Persönlichkeitsanalyse: Fragwürdige Personalauswahl mit Algorithmen. Auf den Seiten von Tagesschau.de unter: https://www.tagesschau.de/investigativ/report-muenchen/kuenstliche-intelligenz-persoenlichkeitsanalyse-101.html (vom 16.02.2021, abgerufen am 09.03.2021).


[2] Christiane Miethge: KI und Recruiting: Wie Tinder für Jobs. Auf den Seiten von Spiegel Online unter: https://www.spiegel.de/start/kuenstliche-intelligenz-bei-der-bewerbung-wie-tinder-fuer-jobs-a-3f314053-ecad-45ff-bbb7-5b23701d7ccf (vom 02.03.2021, abgerufen am 09.03.2021).


[3] Elisa Harlan, Oliver Schnuck (Bayerischer Rundfunk und Politmagazin report München): Fairness oder Vorurteil. Auf den Seiten von BR24 unter: https://web.br.de/interaktiv/ki-bewerbung/ (vom 16.02.2021, abgerufen am 09.03.2021).


[4] Ebd.


Animierte Fotos und Deepfakes

„Das ist doch niemals so passiert! – Oder doch?“ Mit künstlicher Intelligenz können täuschend echt wirkende Videoszenen  erstellt werden, die es so niemals gegeben hat. Das kann harmlos sein, aber auch schlimme Folgen haben.

Analoger Film und Fake-Stempeldruck

Stempelaufdruck „Fake“ auf analogem Film; Bild: Grimme-Institut / Michael Schnell

„Animieren Sie Ihre Familienfotos!“ Mit diesem Spruch wirbt die Ahnenforschungs-Website MyHeritage für eine neue App: Man lädt das Foto des verstorbenen Opas hoch und die App „Deep Nostalgia“ haucht dem Antlitz etwas Leben ein: Das Gesicht bewegt sich und der vielleicht ernst dreinblickende Vorfahr lächelt, er schaut in verschiedene Richtungen und seine Augenlider bewegen sich.

Die zum Teil recht lebensnahe Animierung mittels eines oder mehrerer Fotos benötigt Techniken aus dem Bereich der künstlichen Intelligenz, wie Netzwelt.de berichtet:

„Die KI ‚Deep Nostalgia‘ greift auf eine Datenbank von Videoaufnahmen zurück und entscheidet selbst, welches Video sich am besten für ein bestimmtes Standbild eignet und legt dieses über das Foto.“[1]

Etwas magisch-mystisch und mit Bezug auf Harry Potter erklärt dies Arno Frank bei Spiegel Online:

„Zu diesem Zweck wird die hochgeladene Vorlage (Urgroßmutter) über eine Datenbank einer passenden Videoaufnahme zugewiesen, die dann sozusagen in das Bild kriecht wie eine Hand in einen Handschuh – und das Unbewegliche in Bewegung versetzt. Der Effekt ist auf den ersten Blick faszinierend. Und ein wenig unheimlich. (…) Tatsächlich fühlen sich viele Betrachter an die belebten Ölgemälde aus den ‚Harry Potter‘-Filmen erinnert.“[2]

Ähnlich funktioniert die Erstellung von Deepfakes, also Videos, die etwas zeigen, was in Wirklichkeit nie passiert ist. So kann zum Beispiel in ein bestehendes Video täuschend echt ein Gesicht mit Sprache und passender Mimik eingebaut werden – und das mittlerweile schon mit relativ bescheidenen technischen Mitteln.

„Deep Nostalgia“ mag noch als harmloser Spaß zu verstehen sein, aber die negativen Folgen zunehmend perfekt hergestellter Fake-Videos können immens sein. In den vergangenen Monaten waren laut mixed.de vor allem Frauen vom Missbrauch solcher Techniken betroffen:

„Das Forschungsunternehmen Sensity AI hat Deepfake-Videos seit Ende 2018 nachverfolgt. Zwischen 90 und 95 Prozent dieser Videos sind demnach Pornos und davon betreffen wiederum 90 Prozent Frauen. Eine Untersuchung des niederländischen Unternehmens Deeptrace bestätigt das Ergebnis: 96 Prozent von 15.000 untersuchten Deepfake-Videos waren Pornos. Die Opfer sind zumeist Frauen des öffentlichen Lebens.“[3]

Doch vermehrt sind auch Privatpersonen betroffen: So wurden mittlerweile zwei Apps verboten, mittels denen Frauen nackt dargestellt werden konnten – betroffen waren hiervon auch Minderjährige.[4]

Hinzu kommt: Angesichts der voranschreitenden technischen Möglichkeiten könnte das Video als eine der noch glaubhafteren Abbildungen der Realität künftig ausgedient haben. Laut ZDF.de könnten Meinungsmache und Fake News deutlich an Kraft gewinnen, Mobbing eine ganz neue Qualität bekommen.[5] Und so verwundert es nicht, dass – so das Internet-Portal Security Insider – bereits nach Möglichkeiten geforscht wird, solche Fake-Videos ausfindig zu machen:

„Professor Nasir Memon und sein Team von der Tandon School of Engineering an der New York University (NYU) haben eine Methode entwickelt, um die Aufdeckung von Deepfakes zu erleichtern. Hierzu müsse jede Kamera und Software mit Hilfe von KI einige Artefakte in Videos und Bilder einbetten. Diese Artefakte, für das bloße Auge der Zuschauer nahezu unsichtbar, ließen sich dann im Zuge einer Forensischen Datenanalyse (FDA) auslesen. Langfristig könnte eine Blockchain-Plattform die Authentizität von Video- und Audiomaterial bewachen.“[6]

So oder so: Lösungen müssen her, denn die Folgen von Deepfakes können immens sein: im privaten Bereich ebenso wie im Gesellschaftlichen, in der Politik ebenso wie für die Wirtschaft. Was ist Wahrheit, was bewusste Irreführung? Das wird künftig noch schwerer zu erkennen sein und gerade der Journalismus benötigt hier gut funktionierende Hilfsmittel.

[1] Christoph Zeiss: MyHeritage: Künstliche Intelligenz erweckt Ahnenbilder zum Leben. Bei netzwelt.de unter: https://www.netzwelt.de/news/186806-myheritage-kuenstliche-intelligenz-erweckt-ahnenbilder-leben.html (vom 03.03.2021, abgerufen am 09.03.2021)


[2] Arno Frank: Neue App Deep Nostalgia: Digitale Zombies. Bei Spiegel Online unter: https://www.spiegel.de/kultur/foto-app-deep-nostalgia-digitale-zombies-a-3d399c60-3c8a-46be-b11d-429f4a07b388 (vom 06.03.2021, abgerufen am 09.03.2021)


[3] Anja Klemm und Benjamin Danneberg: Deepfakes: Frauen sind die Opfer – und der Gesetzgeber schläft. Auf der Website mixed.de unter: https://mixed.de/deepfakes-frauen-sind-die-opfer/ (vom 07.03.2021, abgerufen am 09.03.2021)


[4] Ebd.


[5] Siehe dazu einen Artikel des ZDF von 2020: Oliver Klein: Deepfakes – darum sollten wir besorgt sein. Bei ZDF.de unter: https://www.zdf.de/nachrichten/digitales/deepfake-video-sorge-faelschungen-100.html (vom 29.03.2020, abgerufen am 09.03.2021)


[6] Anna Kobylinska und Filipe Martins: KI-Betrug mittels Deepfakes. Auf der Website von Security Insider unter: https://www.security-insider.de/ki-betrug-mittels-deepfakes-a-989107/ (vom 23.12.2020, abgerufen am 09.03.2021)

KI und Journalismus

Künstliche Intelligenz ist bereits Alltag in vielen Nachrichtenredaktionen, mit zum Teil unterschiedlichen Einsatzgebieten. Es gibt aber auch viele Vorbehalte zum Einsatz solcher Techniken.

„Es stimmt schon, dass man Robotern nicht über den Weg trauen sollte. Und schon gar nicht ihren Hirnen. Spricht man als Journalist mit seinem Publikum über künstliche Intelligenz (KI), sind die Fragen nach der Verwendung solcher Automatisierungstechnologien in den Medien deswegen von Misstrauen geprägt.“[1]

Im Vordergrund stehen zwei Befürchtungen: zum einen, dass die Qualität des Journalismus durch Artikel aus „Roboterhand“ nachlässt, zum anderen, dass die Automatisierung bestimmter journalistischer Arbeitsbereiche zu einem Verlust von Arbeitsplätzen führt. Im Folgenden wird sich zeigen, dass manche Ängste eher unbegründet, manche jedoch auch berechtigt sein können.

Vor- und Nachteile für den journalistischen Arbeitsprozess

„Medien berichten hier ständig über die falschen Themen“, klagt die Informatikerin und Buchautorin Katharina Zweig („Ein Algorithmus hat kein Taktgefühl: Wo künstliche Intelligenz sich irrt, warum uns das betrifft und was wir dagegen tun können“) in einem Interview des Magazins journalist bezüglich des Themas „Journalismus und KI“.[2] Weiter führt sie aus:

„Ich halte KI immer dann für problematisch, wenn sie etwas bewerten soll, das ethisches und moralisches Verständnis voraussetzt: den besten Bewerber oder die nächste Straftäterin zum Beispiel.“[3]

Doch KI kann immer dann ihre Vorteile ausspielen, wenn es darum geht, Informationen und Dateien (Audio, Video, Texte) einzuordnen und zu strukturieren:

  • So kann KI-gestützte Software in kurzer Zeit eine große Menge an Bildmaterial auf bestimmte Inhalte – zum Beispiel auf verfassungswidrige Symbole oder, ja, auch auf bestimmte Personen – untersuchen, bevor diese Bilder weiterverarbeitet werden.
  • Nach Wahlen können in kurzer Zeit Ergebnisse gesammelt, zusammengefasst, nach bestimmten Kriterien untersucht und zum Teil auch schon analysiert werden.
  • Die Interessen von Leser*innen werden erfasst und untersucht – und vielfach natürlich auch für die Werbung genutzt.
  • Die große Vielfalt an Kommentaren unter den Artikeln können auf Hass und Beleidigungen untersucht werden.

Einige dieser Funktionen haben allerdings nur wenig mit KI zu tun, werden aber oft als solche bezeichnet. Zum Thema Recherche beispielsweise führt Katharina Zweig aus:

„Personen finden, Themen finden, das läuft alles digital ab. Die dahinter liegenden Algorithmen als künstliche Intelligenz zu bezeichnen ist übertrieben, wird aber oft gemacht. Bei der Google-Suche handelt es sich eigentlich um eine Big-Data-Anwendung.“[4]

… und computergenerierte Artikel?

Ja, es gibt sie bereits vielfach: Artikel über Finanzen, das Wetter, über kleine Sportveranstaltungen, die mittels KI erstellt werden. Die Rheinische Post hat zum Beispiel sogleich nach der Bekanntgabe der Ergebnisse der Kommunalwahl in NRW mehrere hundert kleinere Artikel in sehr kurzer Zeit „künstlich“, das heißt durch eine automatische Textgenerierungssoftware anfertigen lassen.[5] Auf den Seiten der Zeitung können diese Artikel nachgelesen werden. Sie sind als „Automatisch geschriebene Artikel“ gekennzeichnet.[6]

Künstliche Intelligenz kann dem Journalisten viel Arbeit abnehmen. Aber kann er ihn auch ersetzen?

„Wenn eine künstliche Intelligenz eine Aufgabe besser oder schneller als ein Mensch erledigen kann, wenn sie ihn von Routine- oder Schwerstarbeiten befreit, ist sie eine Ergänzung seiner Fähigkeiten. Wenn sie ihn ersetzt, ist sie ein Jobkiller.“[7]

Beides ist möglich. Ist eine Journalistin / ein Journalist in einem Medienunternehmen vornehmlich für aufwändige Recherchen oder für kurze, relativ einfache Artikel zuständig, kann KI auch ihre bzw. seine Position ersetzen. Damit ist für Andrian Kreye, den Autor des Artikels „Die rote Linie“, dieselbe überschritten. Doch wie schon erwähnt kann die für gute Recherchen notwendige Arbeitszeit durch KI auch deutlich gesenkt werden, wodurch mehr Zeit bleibt für Kommentierung und Analyse.

Laut Deutschlandradio Kultur diskutierten dies auch die Mitwirkenden beim „JournalismAI Festival“, zu dem Ende 2020 die London School of Business eingeladen hatte. Und auch dort wurde klar, dass es Vorbehalte beim Einsatz von KI im Journalismus gebe, aber:

„Das Klischee vom intelligenten Roboterkollegen, der Texte schreibt, ist nur ein sehr kleiner Bereich mit begrenzten Einsatzmöglichkeiten für künstliche Intelligenz, und bei Weitem nicht der vielversprechendste.“[8]

Die Automatisierung bestimmter Tätigkeiten sollte als Hilfsmittel angesehen werden, das den Journalist*innen viel Arbeit abnehmen kann. Wichtig sei es, dass sie die Möglichkeiten und Grenzen der KI kennen. Daher ist eine gute Zusammenarbeit zwischen ihnen und den Technikern wichtig. Dieses Teamwork geht „über simple Arbeitsteilung hinaus und bedeutet auch ein Umdenken in Bezug auf redaktionelle Prozesse.“[9]

Fazit: Angesichts der Chancen und Risiken beim Einsatz künstlicher Intelligenz erscheint es unerlässlich, dass Medienhäuser Standards festlegen, welche Arbeiten in welchen Zusammenhängen mit KI erledigt werden können, ohne dass darunter die Qualität der Berichterstattung und Analyse leidet.

[1] Andrian Kreye: Künstliche Intelligenz: Die rote Linie. Bei Süddeutsche Zeitung Online unter: https://www.sueddeutsche.de/medien/kuenstliche-intelligenz-fake-news-recherche-1.5204699 (vom 15.02.2021, abgerufen am 09.03.2021)


[2] Catalina Schröder: „Das wird die Arbeitswelt und unser aller Leben verändern!“ (Interview mit Katharina Zweig). In: journalist-Spezialausgabe vom März 2021, S. 19-23, hier S. 21.


[3] Ebd., S. 21.


[4] Ebd., S. 23.


[5] Henning Kornfeld: „Die Technik kommt, lasst sie uns nutzen!“ In: journalist-Spezialausgabe vom März 2021, S. 39-44, hier S. 44.


[6] Rheinische Post: Kommunahlwahl 2020. Das Beispiel Köln ist abrufbar unter: https://rp-online.de/nrw/staedte/koeln/kommunalwahl/ergebnisse/


[7] Andrian Kreye, Süddeutsche Zeitung Online, siehe oben.


[8] Jenny Genzmer und Dennis Kogel: Künstliche Intelligenz und Medien: Journalisten von banalen Aufgaben entlasten. Auf den Seiten des Deutschlandfunks Kultur unter: https://www.deutschlandfunkkultur.de/kuenstliche-intelligenz-und-medien-journalisten-von-banalen.1264.de.html?dram:article_id=489891 (vom 25.12.2020, abgerufen am 09.03.2021)


[9] Ebd.