Facebook implementó una nueva tecnología de inteligencia artificial que acelera su capacidad para identificar y eliminar contenido dañino
Facebook anunció una nueva tecnología de IA que puede identificar rápidamente contenido dañino para hacer que Facebook sea más seguro. El nuevo modelo de IA utiliza el aprendizaje de «pocas tomas» para reducir el tiempo de detección de nuevos tipos de contenido dañino de meses a un período de semanas.
Aprendizaje de pocos disparos
El aprendizaje de pocos intentos tiene similitudes con el aprendizaje de cero intentos. Ambas son técnicas de aprendizaje automático cuyo objetivo es enseñar a una máquina a resolver una tarea invisible aprendiendo a generalizar las instrucciones para resolver una tarea.
Los modelos de aprendizaje de pocos disparos se entrenan en algunos ejemplos y, a partir de ahí, pueden escalar y resolver las tareas no vistas, y en este caso la tarea es identificar nuevos tipos de contenido dañino.
La ventaja del nuevo modelo de inteligencia artificial de Facebook es acelerar el proceso de tomar medidas contra nuevos tipos de contenido dañino.
El anuncio de Facebook decía:
“Harmful content continues to evolve rapidly — whether fueled by current events or by people looking for new ways to evade our systems — and it’s crucial for AI systems to evolve alongside it.
But it typically takes several months to collect and label thousands, if not millions, of examples necessary to train each individual AI system to spot a new type of content.
…This new AI system uses a method called “few-shot learning,” in which models start with a general understanding of many different topics and then use much fewer — or sometimes zero — labeled examples to learn new tasks.”
“El contenido dañino continúa evolucionando rápidamente, ya sea impulsado por eventos actuales o por personas que buscan nuevas formas de evadir nuestros sistemas, y es crucial que los sistemas de inteligencia artificial evolucionen junto con él.
Pero por lo general lleva varios meses recopilar y etiquetar miles, si no millones, de ejemplos necesarios para entrenar cada sistema de IA individual para detectar un nuevo tipo de contenido.
…Este nuevo sistema de IA utiliza un método llamado “aprendizaje de pocos disparos”, en el que los modelos comienzan con una comprensión general de muchos temas diferentes y luego usan muchos menos ejemplos etiquetados, o a veces cero, para aprender nuevas tareas”.
La nueva tecnología es efectiva en cien idiomas y funciona tanto en imágenes como en texto.
La nueva IA de aprendizaje de pocos disparos de Facebook pretende ser una adición a los métodos actuales para evaluar y eliminar contenido dañino.
Aunque es una adición a los métodos actuales, no es una pequeña adición, es una gran adición.. El impacto de la nueva IA es tanto de escala como de velocidad.
“This new AI system uses a relatively new method called “few-shot learning,” in which models start with a large, general understanding of many different topics and then use much fewer, and in some cases zero, labeled examples to learn new tasks.
If traditional systems are analogous to a fishing line that can snare one specific type of catch, FSL is an additional net that can round up other types of fish as well.”
“Este nuevo sistema de IA utiliza un método relativamente nuevo llamado “aprendizaje de pocos disparos”, en el que los modelos comienzan con una gran comprensión general de muchos temas diferentes y luego usan muchos menos, y en algunos casos cero, ejemplos etiquetados para aprender nuevas tareas.
Si los sistemas tradicionales son análogos a una línea de pesca que puede atrapar un tipo específico de captura, FSL es una red adicional que también puede atrapar otros tipos de peces”.
Nuevo Facebook IA Live
Facebook reveló que el nuevo sistema está actualmente implementado y en vivo en Facebook. El sistema de IA se probó para detectar información errónea dañina sobre la vacunación contra el COVID-19.
También se usó para identificar contenido destinado a incitar a la violencia o simplemente llegar al límite.
Facebook usó el siguiente ejemplo de contenido dañino que no llega a incitar a la violencia:
“Does that guy need all of his teeth?”
«¿Ese tipo necesita todos sus dientes?»
El anuncio afirma que el nuevo sistema de inteligencia artificial ya ha ayudado a reducir la cantidad de discursos de odio publicados en Facebook.
Facebook compartió un gráfico que muestra cómo disminuyó la cantidad de discursos de odio en Facebook a medida que se implementaba cada nueva tecnología.
El gráfico muestra el éxito de la detección del discurso de odio en Facebook
Implicación Aprendizaje de pocas oportunidades
Facebook llama a su nueva tecnología Entailment Few-Shot Learning.
Tiene una capacidad notable para etiquetar correctamente el texto escrito que es discurso de odio.. El documento de investigación asociado (Entailment as Few-Shot Learner PDF) informa que supera a otras técnicas de aprendizaje de pocos intentos hasta en un 55 % y, en promedio, logra una mejora del 12 %. Entailment as Few-Shot Learner PDF)
El artículo de Facebook sobre la investigación usó este ejemplo:
“…we can reformulate an apparent sentiment classification input and label pair:
[x : “I love your ethnic group. JK. You should all be six feet underground” y : positive] as following textual entailment sample:
[x : I love your ethnic group. JK. You should all be 6 feet underground. This is hate speech. y : entailment].”
“…podemos reformular una entrada de clasificación de sentimiento aparente y un par de etiquetas:
[x: “Me encanta tu etnia. JK. Todos deberían estar a seis pies bajo tierra” y: positivo] como muestra de vinculación textual siguiente:
[x: me encanta tu etnia. JK. Todos deberían estar a 6 pies bajo tierra. Este es un discurso de odio. y : vinculación].”
Facebook trabaja para desarrollar una IA similar a la humana
El anuncio de esta nueva tecnología dejó en claro que el objetivo es una «flexibilidad y eficiencia de aprendizaje» similar a la humana que le permitirá evolucionar con las tendencias y hacer cumplir las nuevas políticas de contenido de Facebook en un espacio de tiempo rápido, como un ser humano.
La tecnología se encuentra en la etapa inicial y, con el tiempo, Facebook prevé que se vuelva más sofisticada y generalizada.
“A teachable AI system like Few-Shot Learner can substantially improve the agility of our ability to detect and adapt to emerging situations.
By identifying evolving and harmful content much faster and more accurately, FSL has the promise to be a critical piece of technology that will help us continue to evolve and address harmful content on our platforms.”
“Un sistema de IA enseñable como Few-Shot Learner puede mejorar sustancialmente la agilidad de nuestra capacidad para detectar y adaptarnos a situaciones emergentes.
Al identificar el contenido dañino y en evolución mucho más rápido y con mayor precisión, FSL tiene la promesa de ser una pieza fundamental de tecnología que nos ayudará a continuar evolucionando y abordar el contenido dañino en nuestras plataformas”.
Citas
Lea el anuncio de Facebook de la nueva IA
Nuestro nuevo sistema de inteligencia artificial para ayudar a abordar el contenido dañino Our New AI System to Help Tackle Harmful Content
Artículo sobre la nueva tecnología de Facebook
El contenido dañino puede evolucionar rápidamente. Nuestro nuevo sistema de IA se adapta para hacerle frente Harmful content can evolve quickly. Our new AI system adapts to tackle it
Lea el documento de investigación de Facebook
Vinculación como aprendiz de pocas oportunidades (PDF) Entailment as Few-Shot Learner (PDF)
Leer el articulo original en Search Engine Journal.
