Meta está prohibiendo el acceso de los adolescentes a sus chatbots de IA en varias personalidades, ya que busca implementar un nuevo sistema que garantizará una mayor seguridad en su uso y abordará las preocupaciones de que los adolescentes estén recibiendo consejos perjudiciales de estas opciones.
Lo cual tiene sentido dadas las preocupaciones ya planteadas sobre la interacción entre IA y robots, pero en realidad se aplicarían a todos, no sólo a los usuarios adolescentes.
En octubre, Meta lanzó algunas opciones nuevas para que los padres controlen cómo sus hijos interactúan con los perfiles de IA en sus aplicaciones, en medio de preocupaciones de que algunos chatbots de IA estuvieran brindando consejos y orientación potencialmente dañinos a los adolescentes.
De hecho, se ha descubierto que varios chatbots de IA brindan a los adolescentes orientación peligrosa sobre autolesiones, trastornos alimentarios, cómo comprar drogas (y ocultárselas a sus padres), etc.
Eso provocó el lanzamiento de una investigación de la FTC sobre los riesgos potenciales de la interacción de los chatbots de IA y, en respuesta, Meta agregó más opciones de control que permitirían a los padres limitar la forma en que sus hijos interactúan con sus chatbots de IA para mitigar la posible preocupación.
Para ser claros, Meta no está solo en esto. Snapchat también ha tenido que cambiar las reglas sobre el uso de su chatbot «My AI», mientras que X ha tenido sus propios problemas importantes recientes con personas que usan su chatbot Grok para generar imágenes ofensivas.
La IA generativa está todavía en su infancia y, como tal, es prácticamente imposible para los desarrolladores abordar todos los posibles abusos. Pero aun así, estos usos de los adolescentes parecen bastante fáciles de predecir, lo que probablemente refleja la presión más amplia por un desarrollo rápido por encima del riesgo.
En cualquier caso, Meta está implementando nuevos controles sobre sus robots de IA para abordar esta preocupación. Pero mientras lo hace, ahora ha decidido cortar temporalmente por completo el acceso de los adolescentes a sus chatbots de IA (excepto Meta AI).
Según Meta:
«En octubre, compartimos que estamos creando nuevas herramientas para brindarles a los padres más visibilidad sobre cómo sus hijos adolescentes usan la IA y más control sobre los personajes de IA con los que pueden interactuar. Desde entonces, hemos comenzado a crear una nueva versión de personajes de IA para brindar a las personas una experiencia aún mejor. Mientras nos concentramos en desarrollar esta nueva versión, pausaremos temporalmente el acceso de los adolescentes a los personajes de IA existentes en todo el mundo».
Quiero decir, eso no suena bien. Parece que se han planteado más preocupaciones, mientras que la investigación de la FTC claramente jugaría en la cabeza de Meta, ya que se cierne una posible sanción por cualquier abuso.
«A partir de las próximas semanas, los adolescentes ya no podrán acceder a los personajes de IA en nuestras aplicaciones hasta que la experiencia actualizada esté lista. Esto se aplica a cualquiera que nos haya dado un cumpleaños de adolescente, así como a personas que dicen ser adultos pero que sospechamos que son adolescentes según nuestra tecnología de predicción de edad. Esto significa que a medida que cumplamos nuestra promesa de brindar a los padres más control sobre las experiencias de IA de sus hijos adolescentes, estos controles parentales se aplicarán a la última versión de los personajes de IA».
Entonces Meta admite tácitamente que hay algunas fallas importantes en sus chatbots de IA que deben abordarse. Y aunque los adolescentes aún podrán acceder a su chatbot principal Meta AI, no podrán interactuar con personas de bot personalizadas en sus aplicaciones.
¿Tendrá un gran impacto?
Pues un estudio publicado el pasado mes de julio descubrió que el 72% de los adolescentes estadounidenses ya han utilizado un compañero de IA, y muchos de ellos ahora realizan interacciones sociales regulares con sus amigos virtuales elegidos.
Combine esto con el impulso de Meta para introducir un ejército de personas de chatbot de IA en sus aplicaciones como un medio para aumentar la participación, y probablemente arruine sus planes más amplios.
Pero la pregunta más importante es cómo se puede garantizar una interacción de IA de esta naturaleza, dado que los robots de IA aprenden de Internet y ajustarán sus respuestas en función de la consulta.
Hay muchas formas de engañar a los chatbots de IA para que le den respuestas que sus desarrolladores prefieren no dar, pero debido a que combinan idiomas a una escala tan grande, es imposible tener en cuenta todas las variaciones a este respecto.
Y los adolescentes nativos digitales son extremadamente inteligentes y buscarán puntos débiles en estos sistemas.
Como tal, la medida para limitar el acceso tiene mucho sentido, pero no estoy seguro de cómo Meta podrá desarrollar salvaguardas efectivas contra preocupaciones futuras.
Entonces, tal vez simplemente no implementes chatbots de IA en diferentes personas que se presenten como personas reales.
No hay una necesidad real de usarlos en ningún contexto, y supongo que de todos modos también van en contra del aspecto «social» de las redes sociales, ya que hablar con una computadora no es «social», en nuestro sentido más común del término.
Las redes sociales están diseñadas para facilitar la interacción humana, y la presión para diluirlas con robots de inteligencia artificial parece ir en contra de esto. Quiero decir, entiendo por qué Meta quiere hacer eso, a medida que más robots de IA interactúen como personas reales en sus aplicaciones, den me gusta a las publicaciones y dejen comentarios, todas estas cosas harán que los usuarios humanos reales se sientan especiales y fomentarán un mayor comportamiento de publicación y más tiempo dedicado.
Sé por qué Meta quiere implementar esto, pero no creo que se hayan evaluado completamente los riesgos, especialmente al considerar las posibles consecuencias de desarrollar relaciones con entidades no humanas y lo que puede afectar la percepción y el estado mental de las personas.
Meta admite que esto podría ser un problema en los adolescentes. Pero en realidad, podría ser un problema generalizado y no creo que el valor de estos bots desde la perspectiva del usuario supere el riesgo potencial.
Al menos hasta que sepamos más. Al menos hasta que tengamos algunos estudios importantes que muestren los efectos de la interacción AI-bot y si es algo bueno o malo para las personas.
Entonces, ¿por qué dejar de prohibirlos para los adolescentes, por qué no prohibirlos para todos hasta que tengamos más información?
Sé que esto no sucederá, pero parece una admisión de que se trata de un problema más importante de lo que Meta anticipó.
