Roblox prueba la función de inteligencia artificial para abordar las críticas a la seguridad del chat

Roblox está introduciendo una nueva función de inteligencia artificial en el chat en un esfuerzo por mejorar la seguridad y al mismo tiempo evitar que los usuarios se sientan completamente abandonados. Roblox ha estado realizando muchos ajustes en los últimos tiempos a la funcionalidad del chat, probablemente debido en parte a las críticas que ha enfrentado con respecto a la seguridad de los niños en la plataforma.

Como ocurre con muchos juegos y experiencias en línea hoy en día, esta no es la primera vez que Roblox ha recurrido a la IA para resolver sus problemas. En enero, Roblox comenzó a utilizar una verificación de edad impulsada por IA que está diseñado para mirar imágenes o videos del usuario y determinar su grupo de edad. Una vez categorizados, los grupos de edad se separan entre sí, con límites sobre qué grupos pueden comunicarse. Sin embargo, esa actualización generó muchas reacciones negativas por parte de los usuarios, ya que muchos descubrieron, después de ser categorizados, que ya no podían comunicarse con amigos con los que habían chateado anteriormente, y los afectados vieron sus Roblox El historial de chat con dichas personas desaparece. Ahora, Roblox está probando un método diferente para proteger a los niños en el chat.

Roblox lanza resúmenes de chat impulsados ​​por IA

Roblox Según se informa, ahora está probando resúmenes de chat de IA en el juego en un esfuerzo por mejorar mejorar la seguridad de los niños en Roblox y al mismo tiempo ayuda a los usuarios a no sentirse tan excluidos. Después de la mencionada introducción de los corchetes de chat, cuando se desarrollaba una conversación en Robloxlos usuarios verían cualquier mensaje de grupos de edad inaccesibles para ellos como bloqueados con un candado, por lo que sabrían que se estaban realizando chats, pero no de qué estaban hablando dichos usuarios. Ahora, la plataforma del juego está configurando una IA de resumen que muestra de qué trata la conversación general, incluso si el usuario no puede ver ninguno de los mensajes específicos que se envían. Estos resúmenes se filtran previamente, por lo que si un chat contiene conversaciones inapropiadas, no se incluirán en el resumen.

En teoría, esto significa que si muchos Roblox usuarios de diferentes tramos de edad restringidos están chateando juntos en un servidor, se puede mantener una conversación, incluso si los jugadores no pueden ver lo que dice cada persona. Los usuarios que pueden chatear entre sí pueden seguir el mismo tema en sus propias conversaciones si así lo desean. Sin embargo, los usuarios también tienen la opción de optar por no participar en la función AI, lo que evitará que sus mensajes formen parte del resumen para otros usuarios.

Por el momento, esta función solo se está probando, por lo que no todos necesariamente la verán en el juego en este momento. Además, es posible que Roblox podría decidir en última instancia no utilizar la función o cambiarla considerablemente antes de que se implemente globalmente. Al mismo tiempo, Roblox También está probando una función de chat global que permitiría a los jugadores comunicarse a través de múltiples servidores. Sin embargo, el chat global seguirá estando restringido por elementos como grupos de edad, idioma, etc.

Éste es sólo el último esfuerzo de Roblox utilizar la IA de manera significativa en el juego. Además de determinar la edad y resumir el chat, Roblox Anteriormente introdujo una función de reformulación del chat que altera los mensajes para mantenerlos neutrales y libres de malas palabras. Parte del objetivo es evitar que los jugadores vean cadenas de texto que han sido censuradas como “#####”, filtrando y/o reformulando las partes ofensivas de un mensaje. Sin embargo, estas funciones se limitan al chat, por lo que aún puede haber formas en que los usuarios puedan sortearlas, como en el pasado, cuando Roblox Los jugadores utilizaron graffitis en el juego para difundir discursos de odio..