Kurz: Wenn Sie Bildunterschriften auf Ihren Instagram-Fotos und -Videos hinterlassen möchten, seien Sie auf eine Warnung vorbereitet, wenn sie etwas riskant sind. Das zu Facebook gehörende soziale Netzwerk verwendet künstliche Intelligenz, um Sprache in Bildunterschriften zu erkennen, die als beleidigend oder schikanierend eingestuft werden könnten.

Mit dem neuen System sehen Benutzer, die Untertitel posten, die Instagram für anstößig hält, eine Nachricht, die besagt, dass sie anderen gemeldeten ähnlich aussehen. Unternehmen sagt Dies gibt den Leuten die Möglichkeit, vor dem Posten innezuhalten und ihre Worte zu überdenken.

Instagram Anfang des Jahres eingeführt Eine ähnliche Funktion mit KI. In diesem Fall werden toxische Kommentare definiert. Der Filter basiert auf maschinellem Lernen, das mit einer Reihe von Testdaten trainiert wird und Kontext und Beziehungen berücksichtigt.

Instagram warnt Benutzer nur, dass ihre Worte möglicherweise beleidigend oder schikanierend sind, sodass die Benutzer die Aufforderungen ignorieren und Bildunterschriften/Kommentare posten können, wenn sie dies möchten. Das Unternehmen hofft jedoch, dass die Benachrichtigungen dazu beitragen, die Zahl der Cybermobbing-Vorfälle zu reduzieren und gleichzeitig die Menschen darüber aufzuklären, was auf der Plattform erlaubt ist und was nicht.

„Wir können mehr tun, um Mobbing auf Instagram zu verhindern, und wir können mehr tun, um die Ziele zu stärken, sich selbst gegen Mobbing zu stellen“, sagte Adam Mosseri, Leiter von Instagram.




„Es liegt in unserer Verantwortung, eine sichere Umgebung auf Instagram zu schaffen. Dies ist für uns seit einiger Zeit eine wichtige Priorität und wir investieren weiterhin in ein besseres Verständnis und eine Lösung dieses Problems. ”



Die KI-gestützte Funktion wird in „ausgewählten Ländern“ eingeführt, bevor sie in den kommenden Monaten weltweit ausgeweitet wird.