Xbox veröffentlicht vierten Transparency Report über neueste KI-Anwendungen für mehr Sicherheit im Gaming

Unser Engagement für eine sichere, aufgeschlossene und inklusive Gaming-Community wird durch kontinuierliche Investitionen und Innovationen zum Schutz der Spieler*innen und zur Förderung eines positiven Spielverhaltens unterstützt. Heute veröffentlichen wir unseren vierten Xbox Transparency Report, der unsere Fortschritte bei der Förderung der Sicherheit der Spieler*innen und unser Engagement für Transparenz aufzeigt.

Wir bei Xbox sind weiterhin bestrebt, den verantwortungsvollen Einsatz von KI voranzutreiben, um unsere menschliche Expertise bei der Erkennung potenzieller Gefahren zu stärken. Wir haben die einzigartige Chance, branchenführende Sicherheitsinnovationen zu schaffen. So schützen wir unsere Community besser, indem wir die Investitionen von Microsoft nutzen, die die neuesten Fortschritte in der generativen KI mit menschlichem Fachwissen und Urteilsvermögen kombinieren.

Unser fortschrittlicher Ansatz zur Nutzung von KI zur Kategorisierung und Identifizierung schädlicher Inhalte basiert auf Microsofts Standard für verantwortungsbewusste KI und ermöglicht es unseren menschlichen Moderator*innen, sich auf die komplexeren und nuancierten Risiken zu konzentrieren. So  stellen wir sicher, dass unsere Maßnahmen zum Schutz der Gaming-Community präzise, konsistent und fair sind.

Zu den frühen KI-gestützten Investitionen gehören:

• Auto-Labeling hilft bei der Klassifizierung von Konversationstexten, indem Wörter oder Phrasen identifiziert werden, die den Kriterien und Merkmalen potenziell schädlicher Inhalte entsprechen. Dieser Ansatz nutzt KI, um gemeldete Textinhalte zu analysieren und hilft Community-Moderator*innen, Fehlmeldungen schnell auszusortieren, so dass sich die menschliche Moderation auf die wirklich kritischen Inhalte konzentrieren kann.
• Image Pattern Matching, das auf fortschrittlichen Datenbank- und Bildabgleichungstechniken basiert, ermöglicht die schnelle Entfernung bekannter schädlicher Inhalte und die Identifizierung neu auftauchender schädlicher Bilder.

Zu den wichtigsten Erkenntnissen des Berichts gehören:

• Neue effektive Wege zum Schutz der Spieler*innen. Das Verhalten der Spieler*innen im Xbox Voice-Chat hat sich seit der Einführung unseres neuen Voice Reporting-Feature deutlich verbessert. Die Funktion ermöglicht es den Spieler*innen, unangemessenes verbales Verhalten mit minimalen Auswirkungen auf ihr Spiel zu melden. Mit dem System „Jetzt aufnehmen, später melden“ wurden seit der Einführung bereits 138.000 Sprachmeldungen erfasst. Wenn diese Meldungen zu einem Enforcement Strike führten, zeigten 98 % der Spieler*innen eine Verbesserung in ihrem Verhalten und erhielten keine weiteren Enforcements. Darüber hinaus haben wir unseren proaktiven Ansatz aktualisiert, um schädliche Inhalte effektiver daran zu hindern, die Spieler*innen zu erreichen (3,2 Millionen Textzeilen mehr als im letzten Bericht, d.h. 67 % mehr), damit die Spieler*innen sich positiv einbringen können. Wir werden weiterhin in Funktionen investieren, die das Spielerlebnis auf der Xbox schützen und verbessern.
• Das Verständnis von Enforcements führt zu einer sichereren Community. Das Enforcement Strike System wurde letztes Jahr eingeführt, um positives Spielverhalten zu fördern und den Spieler*innen zu helfen, die Bedeutung eines Regelverstoßes zu verstehen. Seit der Einführung haben 88 % der Spieler*innen, die einen Enforcement Strike erhalten haben, keine weiteren Aktivitäten unternommen, die gegen unsere Community-Standards verstoßen. Darüber hinaus haben wir die Dauer der Sperren für kleinere Verstöße insgesamt verkürzt. Bei 44 % der Enforcement Strikes, die früher zu einer Sperre von 3 Tagen oder mehr geführt hätten, wurde die Dauer verkürzt. Die Kombination dieser Ergebnisse zeigt, dass die Mehrheit der Spieler*innen ihr Verhalten nach nur einer Sperre verbessert, selbst wenn diese nur kurz ist.
• Nicht authentische Accounts sperren, bevor sie Auswirkungen haben. Wir haben kontinuierlich in Methoden zur Erkennung von nicht authentischen Konten investiert, was uns ermöglicht hat, viele von ihnen rechtzeitig zu sperren und so zu verhindern, dass sie unsere Spieler*innen beeinträchtigen. Unsere verbesserten Methoden haben die Nutzung von Millionen nicht authentischer Konten verhindert. Zudem haben sie dazu geführt, dass die Zahl der proaktiven Sanktionsmaßnahmen gegen nicht authentische Konten zum ersten Mal seit zwei Jahren gesunken ist: von 16,3 Millionen Durchsetzungen im letzten Bericht auf 7,3 Millionen.

Unabhängig vom Transparency Report arbeitet unser Team weiterhin eng zusammen, um Innovationen im Bereich Sicherheit voranzutreiben und die Erfahrungen unserer Spieler*innen zu verbessern:

• Einführung des Microsoft Family Safety Toolkit. Microsoft ist sich bewusst, dass Eltern und Erziehungsberechtigte viel zu tun haben und dass sich die Technologielandschaft ständig weiterentwickelt. Dieses Toolkit enthält Anleitungen zur Nutzung der Sicherheitsfunktionen und Familiensicherheitseinstellungen von Microsoft, um die digitale Elternschaft zu unterstützen und zu verbessern, sowie Anleitungen für Familien, die sich gemeinsam in der Welt der generativen KI bewegen wollen. Wir haben auch Links zu einer Auswahl an Informationsquellen für Eltern hinzugefügt, wie z.B. das How To Be A Good Digital Parent Toolkit des Family Online Safety Institute.
• Globale Umfrage zu Onlinesicherheit von Microsoft. Diese Umfrage zielt darauf ab, das digitale Ökosystem und die Online-Erfahrungen der Menschen besser zu verstehen. Wir veröffentlichen die Ergebnisse, damit andere von den Erkenntnissen profitieren und wir gemeinsam an einem sicheren Online-Umfeld arbeiten können. Die Umfrage untersucht, wie Menschen aller Altersgruppen die Chancen und Risiken der Technologie wahrnehmen.
• Aufbau einer besseren Online-Community mit Minecraft Education’s Good Game. Diese neueste Ergänzung der CyberSafe Kollektion von immersiven Lernwelten ist ein Abenteuer mit einer Geschichte, die Spieler*innen zwischen 8 und 18 Jahren helfen soll, Verantwortlichkeiten, Werkzeuge, Reaktionen und Strategien zu verstehen, die Empathie fördern und gesunde Online-Interaktionen ermöglichen. Nutzer*innen von Minecraft Education finden CyberSafe: Good Game in der Bildungsbibliothek des Spiels. Der Titel ist auch für Spieler*innen von Minecraft Bedrock kostenlos im Minecraft Marketplace erhältlich.

Gemeinsam mit unseren Spieler*innen bauen wir weiterhin eine starke und unterstützende Community auf, die frei von Einschüchterungen und Ablenkungen ist. Wir sind bestrebt, unsere Sicherheitsfunktionen zu verbessern, um unsere Verbindung zu den Spieler*innen durch Feedback und Mitteilungen im Spiel zu fördern und die Schutzmaßnahmen noch effektiver anzuwenden. Die KI-Lösungen, die wir veröffentlichen, sind Teil unseres Weges, eine sicherere und einladende Umgebung für alle zu schaffen. Denn jede*r soll sich beim Spielen wohlfühlen und Spaß haben.

Weitere Quellen: