Facebook buscará disminuir suicidios con IA

Posted Noviembre 29, 2017

La nueva herramienta será capaz de detectar, por sí misma, las pautas y patrones que aparezcan en contenido compartido a través de Facebook, y que podría derivar en conductas suicidas entre los usuarios.

Por ahora, esta herramienta solo estará excluida de la Unión Europea donde las leyes de privacidad complican el uso de esta tecnología.


Y agrega: "En el futuro, AI podrá comprender aún más los matices sutiles del lenguaje y podrá identificar diferentes cuestiones además del suicidio, lo que incluye detectar más tipos de acoso y odio. Nuestro enfoque fue desarrollado en colaboración con organizaciones de salud mental como Save.org, National Suicide Prevention Lifeline y Forefront Suicide Prevention y con aportes de personas que han tenido experiencia personal al pensar o intentar suicidarse".

El software se encargará de buscar indicios en las publicaciones o en videos que se transmitan por Facebook Live, y luego mandará reportes a supervisores humanos y se activarán las alertas para asistentes humanos que están capacitados para brindar ayuda. Cuando un usuario informa sobre una situación de riesgo, la inteligencia artificial facilitará al moderador las partes claves del vídeo y clasificará por prioridad todos los casos detectados para acelerar la acción donde más se necesita. Facebook crea cada vez más opciones para motivar a sus usuarios a preferir esta red social.


"El uso malicioso de la IA será un riesgo siempre, por lo que es importante establecer buenas prácticas hoy para sopesar el balance entre la trata masiva de datos y su utilidad, teniendo en cuenta siempre el sesgo humano que pueden arrastrar las máquinas", dice Alex Stamos, jefe de seguridad informática de Facebook.

Dicha inteligencia artificial comenzará a funcionar en diversos países a fin de evitar los suicidios.