Facebook bekämpft richtlinienwidrige Inhalte mittels Künstlicher Intelligenz

Veröffentlicht am Veröffentlicht in Allgemein, Internetrecht

Sowohl im Kino als auch auf der Couch begegnet uns die Künstliche Intelligenz (KI) oft als ein Computerprogramm, das zur tödlichen Bedrohung wird. In den „Terminator“-Filmen schickt das Skynet Killermaschinen, in „I, Robot“ versuchen Roboter die Weltherrschaft zu ergreifen. Künstliche Intelligenz sollte allerdings nicht nur als Gefahr für die Menschheit, sondern vor allem als Chance begriffen werden. Die KI beschäftigt sich mit Methoden, die es einem Computer ermöglichen, solche Aufgaben zu lösen, die, wenn sie vom Menschen gelöst werden, Intelligenz erfordern.

Geburtsstunde der Künstlichen Intelligenz

Die Geburtsstunde der Künstlichen Intelligenz als akademisches Fachgebiet lässt sich auf die von John McCarthy organisierte Dartmouth Conference im Sommer 1956 am Dartmouth College in New Hampshire zurückführen. Im Rahmen dieses sechswöchigen Workshops setzten sich die Teilnehmer unter anderem mit automatischen Computern und neuronalen Netzwerken auseinander. Die Idee, dass sich die Vorgänge menschlichen Denkens möglicherweise automatisieren oder mechanisieren lassen, ist allerdings schon viel älter. Als früheste Quelle wird zumeist auf Julien de La Mettrie und sein 1748 veröffentlichtes Werk „L’Homme Machineverwiesen.

Kulturelle Vielfalt erschwert Facebook die Kontrolle

Die Sprachvielfalt seiner rund 2,4 Milliarden aktiven Nutzer macht dem sozialen Netzwerk „Facebook“ im Kampf gegen Hass, Gewalt und Desinformationen zu schaffen. Seinen Dienst bietet Facebook in 111 Sprachen weltweit an, wobei 31 davon stark genutzt werden. Die knapp 15.000 Mitarbeiter des Unternehmens, welche für das Aufspüren von unliebsamen Inhalten verantwortlich sind, kommen jedoch nur in etwa 50 Sprachen zum Einsatz. Mohammed Saneem, Wahlleiter bei den Wahlen in Fidschi im vergangenen November, kritisierte Facebook dahingehend, dass das Unternehmen den Nutzern gestatte in ihrer eigenen Sprache Inhalte zu veröffentlichen, die Nutzungsbedingungen in jener Sprache aber oft nicht verfügbar seien. Ähnliche Probleme existieren in afrikanischen Staaten wie Äthiopien. Dort tauschten sich User über die tödlichen Zusammenstöße zwischen den Volksgruppen in Form von Hassbotschaften auf Facebook aus. Ein Großteil dieser unerwünschten Posts war auf Amharisch, einer von Facebook unterstützten Sprache. Wollten amharische Nutzer die Facebook-Regeln allerdings nachlesen, erhielten sie diese lediglich auf Englisch.

Neue Bild- und Sprachtechnologien filtern unerwünschte Veröffentlichungen

Das soziale Netzwerk will gegen Hassbotschaften und ähnlichen Inhalt mittels Künstlicher Intelligenz vorgehen. Mike Schroepfer, technischer Direktor bei Facebook, erklärt, dass das Unternehmen vollautomatisch Bilder, Videos, Audioinhalte und Texte auf Inhalte analysiere, welche den Nutzungsbedingungen widersprechen. Bei der Erkennung von Bildinhalten verwendet Facebook eine Technologie namens Panoptic FPN. Diese ermöglicht es mittlerweile verschiedenste Bildelemente voneinander zu trennen. Dabei werden nicht nur Personen erkannt, sondern auch der Hintergrund und Objekte, die auf dem Bild zu sehen sind. Nach Angaben von Facebook, sei die KI sogar schon so fortgeschritten, dass diese auswerten könne, welche Teile eines Videos von und ohne Relevanz seien. Diese Entwicklung kommt nicht nur den Inhaltsfiltern zugute, sondern wirkt sich auch positiv auf die automatische Bildbeschreibung aus, die von Facebook für Sehbehinderte angeboten wird. Neben dem Einsatz der Künstlichen Intelligenz bei Bildinhalten, verzeichnet die KI neuerdings auch im Bezug auf Sprachinhalte große Fortschritte. Das von Facebook entwickelte Werkzeug „LASER“ (Language-Agnostic SEntence Representations) findet im Bereich des Natural Language Processing (NLP), also der Verarbeitung natürlichsprachlicher Informationen durch einen Computer, Anwendung. LASER stellt Sätze verschiedener Sprachen als Vektoren dar. Dabei bildet es Sätze verschiedener Sprachen, die aber dieselbe Aussage haben, in einer räumlichen Nähe zu einander ab. Der Software ist es also gleichgültig, ob ein Nutzer schreibt „Der Hund ist schwarz“ oder „The dog is black“. Das Toolkit beherrscht mehr als 93 Sprachen aus 30 Sprachfamilien und 23 Schriftsystemen. Infolgedessen muss Facebook die unterschiedlichen Sätze nicht mehr übersetzen und sie daraufhin in ein NLP-System eintragen, sondern übergibt sie direkt an LASER.

Künstliche Intelligenz doch nicht so clever?

Schroepfer zur Folge, verzeichne das Unternehmen, wenn es um die Erkennung von richtlinienfeindlichen Bildinhalte gehe, hohe Erfolgsraten. Lediglich bei Belästigungen und Hatespeech seien die Erkennungsraten noch miserabel. Zu lösen sei dieses Problem wohl nie vollständig, Facebook arbeite aber daran, seine Technik ständig zu verbessern. Vor wenigen Wochen machte Facebook allerdings unfreiwillig Schlagzeilen, als im neuseeländischen Christchurch ein Mann mit Schusswaffen 50 Menschen ermordete und sein Verbrechen in einem Live-Video auf Facebook festhielt. Die von Facebook entwickelte Software, die unter anderem in Livestreams Gewalt erkennen soll, hatte bei diesem Video nicht reagiert.

Facebook setzt weiterhin auf KI

Das soziale Netzwerk Facebook wird auch in Zukunft auf KI bauen und versuchen diese zu optimieren. Diese These wird schon allein dadurch gestützt, dass das Unternehmen zu Beginn dieses Jahres einen großzügigen Geldbetrag in Höhe von umgerechnet 6,6 Millionen Euro an das neue „Institut für Ethik in der Künstlichen Intelligenz“ an der Technischen Universität München spendete. Facebook erhofft sich dadurch womöglich interessante Erkenntnisse für das eigene Unternehmen, was ethische Fragen im Bereich Künstliche Intelligenz betrifft.

Quellen

Merlin Schumacher, Facebook setzt auf Ki im Kampf gegen Hass, Gewalt und Missinformation, Heise online, 02.05.2019, abrufbar unter: https://www.heise.de/newsticker/meldung/Facebook-setzt-auf-KI-im-Kampf-gegen-Hass-Gewalt-und-Missinformation-4411256.html, zuletzt abgerufen am 10.05.2019

Giuseppe Rondinella, Facebook will stärker in Künstlich Intelligenz investieren, Horizont, 02.05.2019, abrufbar unter: https://www.horizont.net/tech/nachrichten/kampf-gegen-hass-und-gewalt-facebook-will-staerker-in-kuenstliche-intelligenz-investieren-174564?utm_source=rss&utm_medium=referral&utm_campaign=news&utm_term={utm_term}, zuletzt abgerufen am 10.05.2019

Handelsblatt vom 23.04.2019, Sprachvielfalt bremst Hassfilter von Facebook aus, abrufbar unter: https://www.handelsblatt.com/technik/it-internet/kampf-gegen-hasskommentare-sprachvielfalt-bremst-hassfilter-von-facebook-aus/24245348.html, zuletzt abgerufen am 10.05.2019

Lars Bube, Eine kurze Geschichte der KI, CRN, 05.04.2019, abgerufen unter: https://www.crn.de/software-services/artikel-119602.html, zuletzt abgerufen am 10.05.2019

Thomas Beschorner, Alles für die Forschung – und Facebook, Spiegel online, 01.02.2019, abrufbar unter: https://www.spiegel.de/netzwelt/web/facebook-foerdert-die-ki-forschung-an-der-tu-muenchen-gastbeitrag-a-1250796.html, zuletzt abgerufen am 10.05.2019

Björn Bohn, Machine Learning: Facebook gibt LASER als Open Source frei, Heise online, 24.01.2019, abrufbar unter: https://www.heise.de/developer/meldung/Machine-Learning-Facebook-gibt-LASER-als-Open-Source-frei-4286091.html, zuletzt abgerufen am 10.05.2019

Kirstin Haug, Facebook sponsert TU München mit 6,5 Millionen Euro, Spiegel online, 21.01.2019, abrufbar unter: https://www.spiegel.de/lebenundlernen/uni/facebook-sponsert-tu-muenchen-mit-6-5-millionen-euro-a-1249091.html, zuletzt abgerufen am 10.05.2019

 

 

 

 

 

 

 

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

*