La inteligencia artificial aprende a evitar abusos y bullying

Menor foto./Archivo
Menor foto. / Archivo

Detecta e informa de forma automática en casos de acoso a través de imágenes

INNOVA+Madrid

Las redes sociales son el ecosistema habitual de los adolescentes e Instagram es una de las preferidas por los más jóvenes. Plataforma en la que están bajo vigilancia acciones y actitudes contra los menores.

Para ello, los desarrolladores de Instagram han hecho uso de la inteligencia artificial para conseguir el mejor aliado para acabar con las malas prácticas y los abusos en la aplicación.

Gracias al machine learning, las herramientas de Instagram ahora pueden «detectar de forma proactiva» el bullying en las fotos publicadas, así como en las capturas de pantalla realizadas de las mismas, y enviarlas a los encargados de revisarlas.   

Según Adam Mosseri, director de Instagram, el objetivo de la firma es «limitar aún más el acoso y difundir la bondad». Junto con esta iniciativa, Instagram ha extendido el filtro de comentarios para frenar el 'bullying' que introdujo en mayo de este año hasta los vídeos emitidos en directo.

Hasta ahora, los comentarios ofensivos se vetaban en las secciones de Buscar, Perfil y en el feed de publicaciones. La última de las nuevas características es el efecto de cámara kindness en un intento de promover la amabilidad y la positividad entre los usuarios de la red social.

Si se utiliza en modo selfie, el fondo de la pantalla se llenará de corazones y aparecerá un mensaje que anima a «extender la amabilidad» con otro usuario. En caso de aplicar el efecto kindness con la cámara principal, aparecerá en el fondo una superposición con mensajes amables en distintos idiomas.

Contenido Patrocinado

Fotos

Vídeos