Facebook entwickelt Killer-Software

Facebook stellte letze Woche den Entwicklungsstand ihrer ‚DEC‘ genannten Künstlichen Intelligenz vor, die Regelverstöße aufdecken und verhindern soll. Sie könnte auch für andere Unternehmen der Konkurrenz interessant sein.

In der Vergangenheit kritisierten Regierungen weltweit die Umsetzung der „Gemeinschafts-Richtlinien“ des Social-Media-Giganten. Jedoch gegen die Flut von Falschmeldungen, Desinformation, ‚Hate Speech‘ oder Betrug vorzugehen, ist mit menschlicher Arbeitskraft schier unmöglich. Bislang wurden die von anderen Nutzern beanstandeten Beiträge durch Mitarbeiter beurteilt – eine Arbeit unter großer Belastung, und nicht besonders gut bezahlt. Etliche wurden mit psychischen Problemen arbeitsunfähig und Mark Zuckerberg versicherte deswegen dem US-Congress, dass er Hass-Posts und Fake-News mit Künstlicher Intelligenz bekämpfen würde.

Ingenieure und Forscher im Auftrage des Konzerns können jetzt erste Erfolge vorweisen. Bei der Erkennung von betrügerischen Konten habe man inzwischen eine Erfolgsquote von 99,7 Prozent. Im dritten Quartal 2019 wurden mit Hilfe der Algorithmen 1,7 Milliarden Konten dicht gemacht. Hinzu kämen Jene, die bereits bei der Registrierung abgelehnt worden seien.

Das angewendete Verfahren wurde „Deep Entity Classification“, DEC, getauft (auf Deutsch in etwa „tiefe Persönlichkeitsklassifizierung“). Es wertet nicht nur Daten eines Benutzerkontos selber aus, sondern geht auch genauso bei seinen Kontakten und Beiträgen vor. Auch die Beiträge können –so Facebook– inzwischen automatisch richtig beurteilt werden. Aus diesen Aspekten entsteht dann am Ende ein Wert, der mit einer Trefferquote von 97 Prozent bestimmen kann, ob ein Benutzerkonto authentisch ist oder ob Regelverstöße begangen werden.

Das System ist allerdings nicht darauf angelegt, Desinformationen bei Politischen Kampagnen aufzuspüren, sagte ein Facebook-Sprecher. Daran arbeite man noch. Auch das Fein-Tuning ist ein Problem: Geht die Software zu scharf vor, werden die falschen zu Unrecht gesperrt, ist sie zu lasch, leiden diese unter den Inhalten der Internet-Trolle.