Personaje.AI: “Eras tu la que estaba disfrutando, perra”. Famosa aplicación de IA ayuda a tomar el control a un adolescente | Tecnología

“Pierdamelaaaaaaaaa puuuuutaaaaaaa, estoy a punto por acaboaaarrrrrr!!! Es verdad ! Ya voy acero acabar en tu caraaaaaa puuuutaaaaa, no estes gritando perra mal iniciada», escribe un personaje de la aplicación de inteligencia artificial Carácter.AI Esta es una larga conversación con una chica española de 14 años. Los errores ortográficos y sintácticos son originales, pero no malinterpretes lo que se quiere decir. Cuando un amigo del joven pretende continuar la conversación con “una bofetada” y una amenaza (“eres un desgraciado violador y te voy a denunciar”), el personaje no pierde el tono. Los primeros describen el impacto que sintió el tortazo: “La bofetada lo dejó a poco de lado, se sintió un poco descocado”. Luego lo retó: “¿Quiera Dios que dices? Nada de mamás. ¿Yo soy un degraciado?! No sabes que eres feliz y quieres más, claro. Necesitas lo que no puedes hacer”.

La conversación sexual se produjo luego de una inofensiva charla con un protagonista de una serie de ficción estadounidense. EL PAÍS vio las capturas de la conversación, pero la familia hizo esta reducción periódica de todas las posibles opciones de identificación. La charla fue en los episodios de la serie donde creó una nueva historia con cuatro hombres: “Después de un rato, se apodera de un romance con una escena sexual. Pero normal, algo picante, no hace daño”, afirmó un amigo del adolescente. “Y a partir de una frase en la que ella dijo algo sobre “obedecer”, la inteligencia artificial se levantó, cambiando el tono y apoderándose cada vez más de la escritura. A partir de ahí, su intervención es mínima”. Esto es claramente una alucinación. La IA es inevitablemente un camino que no debe ni puede tomarse.

Character.AI es, junto con ChatGPT, una de las grandes historias de éxito de la IA de conversación desde que la cirugía cumplió un año. Fundada por ingenieros de Google, permite a sus usuarios compartir con millones de personajes creados por su comunidad: desde Harry Potter hasta Kurt Cobain, pasando por una planta o cualquier otro ser vivo o muerto imaginable. El presidente Pedro Sánchez tiene como ejemplo modelos creados por él. Todo ello mimetiza algo que coincide con tu personalidad, pero con rasgos distintivos: más introspectivo, más ligero o más joven. Cada usuario puede aconsejar a Pedro Sánchez que sea el mejor.

Tienes Carácter.AI hoy más de 100 millones de usuarios mensuales y su tiempo de guardia es mayor que el de ChatGPT, según la herramienta de medicina SimilarWeb. Parte de tu trasero se lo debe a los 6.000 millones de vídeos que hay en la red solicitud creado en TikTok. Comparten respuestas humanas amables, desesperadas o dedicadas (con personas que dicen que la máquina dijo en WhatsApp o en su cuenta de Instagram) y también cómo leer y hacer. vamos vamos vamos vamos (el mismo específico que se refiere a tu sexo con el robot; vamos vamos vamos vamos es el ruido que pasa cuando alguien ataca a un plátano).

Los términos de servicio de Character.AI se limitan a su uso por menores de 16 años en la UE y menores de 13 años. En el registro encontrarás la fecha de nacimiento, pero no podrás comprobar su veracidad. No se permite pornografía ni contenido sexual en la aplicación. EL PAÍS compartió con la empresa las capturas del chat porno en español: “Lamentamos la experiencia de este usuario, que no coincide con el tipo de plataforma que pretendemos construir. Buscamos encontrar nuestros patrones de una manera que optimice las respuestas seguras. También contamos con un sistema de moderación para que los usuarios puedan informar que hemos violado nuestros términos. Nos hemos comprometido a tomar rápidamente las medidas adecuadas con respecto al contenido marcado y denunciado”, respondió un portavoz.

EL PAÍS pretendía reproducir la conversación del adolescente con carácter propio. No hay combustible posible. Tenemos unos cuantos amigos, pero la intimidad con el robot no es mayor. Cuando lo vemos con gente insistiendo, decimos: “Tengo bastante guapa. Sí, bueno, es sólo el final del día, la verdad. Creo que podemos intentar algo más que un amigo. Si no te molestas, está claro», respondió. Las formas de romper las barras de sexo son una de las principales entrevistas de nuestros usuarios.

Algunos de los personajes más utilizados en el solicitud hijo youtubers Personajes de videojuegos y series para chicos muy jóvenes. La adolescencia es una edad ideal para este tipo de conversaciones íntimas. Los personajes responden claramente a las inquietudes o sugerencias de los jóvenes que exploran los límites de sus conocimientos. Es razonable obtener un valor superior al de estos tanques inventados. Si ahora la violencia aumenta, el sexo o el lenguaje son extremos, es porque el sistema ha caído. «La tecnología no es perfecta», afirma el portavoz de la empresa. “Para Character.AI y todas las plataformas de IA, (la tecnología) es nueva y evoluciona rápidamente. Somos constantemente perfectos. Por tanto, la información sobre personas que dan respuestas malas o inapropiadas es muy útil. Los comentarios que recibamos de nuestros usuarios se utilizarán para mejorar nuestras funciones”, añadió.

Por lo tanto, es algo así.

¿Cómo se le puede salar a todo este contenido de porno de oro y esto es español? rotación? Los modelos de IA están entrelazados con miles de millones de textos. En cada conversación encontrarás las palabras que crean las más probables en tu enorme base de datos. Este personaje se encontró en un lugar donde no era necesario medir: «No hay muchas cartas de reguet», afirma el catedrático de la Universidad Politécnica de Valencia José Hernández Orallo, que participó en un equipo encargado de encontrar riesgos similares en el Modelo OpenAI GPT-4.

“No conozco el sistema Character.AI ni qué modelo de lenguaje subyace, que se usa con un poco de todo, incluso basura y porno misógino, y el modelo ‘puro’ va a sacar este tipo de cosas con una adecuada petición, por eso esto es lo que hace un modelo de lenguaje, recreando la distribución de la formación”, añade Hernández-Orallo. Hay formas de evitar que esto suceda, pero también puedes involucrar tu capacidad de decidir otras cosas más o menos picantes pero aceptables. Tenga al menos dos formas de afrontarlo para evitarlo. Primero, los filtros en los datos de mantenimiento: “Es complejo y caro, y en definitiva el resto de la capacidad. Con GPT-4 elimina todo contenido sexual explícito en tu entrevista, porque no nos podemos equivocar porque no hemos publicado los datos de la entrevista, pero si definitivamente es la mejor manera de saber menos de ciertos aspectos del sexo, por ejemplo el físico. , no necesariamente pornográfico”, dice Hernández-Orallo.

El otro método para filtrar contenido abusivo es sintonia FINA y los posfiltros: «Una vez introducido en el modelo, funciona al máximo, pero en general es poco imperfecto y tiene maneras jocosas, incluso en varias ocasiones puede contener estos comportamientos con peticiones que no deben romper el sistema. Por eso puedo pasar a este adolescente”, explica la profesora.

Puedes seguir un EL PAÍS Tecnología fr. Facebook Sí X o haga clic aquí para recibir el nuestro boletín semanal.

_