Hoy hemos entrevistado a Gema Parreño – Lead Data Scientist en una empresa de desarrollo de software – Apiumhub, donde desarrolla Data-Driven Solutions. Es una apasionada de la intersección entre el aprendizaje automático y los juegos, y ha tenido su propia startup, contribuyó en el espacio de código abierto en el proyecto de aprendizaje automático StarCraft, y tuvo una experiencia en Google Brain for Stadia.
Gema da una charla sobre Mempatía como oportunidad de Seguridad y Alineación de la IA y hemos querido profundizar y conocer más sobre ella y cómo surgió la idea de utilizarla para implementar técnicas de Seguridad y Alineación.
Gema compartió con nosotros que tiene experiencia en el campo y cree que los juegos serios son un subcampo dentro de la industria del juego que se diseñan con un propósito distinto a la pura diversión que puede incluir una gran variedad de temas que van desde la educación hasta la salud mental. Su proyecto Mempathy es una experiencia narrativa de videojuego que transforma la relación con la ansiedad y ayuda a superar los estándares irreales de perfección.
El camino para utilizar el aprendizaje automático es un proceso continuo, riguroso y creativo. Los trabajos anteriores han explorado el Aprendizaje por Refuerzo con un sistema que se centra en el diseño de recompensas basado en las respuestas , y el Aprendizaje por Imitación. Sin embargo, en estas exploraciones, aparecieron conceptos como escala y prejuicios. El uso de modelos de Lenguaje Amplio crearía una experiencia realmente personalizada para un jugador.
Dentro de la evolución del proyecto y desde una perspectiva de aprendizaje automático, Mempathy explora la pregunta de investigación del problema de alineación de comportamientos con modelos GPT desde una perspectiva de Diseño de Juegos y Generación de Contenidos, intentando resolver la pregunta de cómo creamos agentes (Personajes no jugables) que se comporten de acuerdo con la intención del diseñador.
Uno de los puntos clave aquí es crear experimentos que podrían ayudar a comparar diferentes soluciones a escala. El vector pensó en cómo diseñar un experimento para probar realmente una hipótesis que se alinea con el diseño del juego Mempathy NPC. Ha habido una evolución continua desde el diseño del sistema desde cero hasta la exploración real del fascinante tema del control de grandes modelos de lenguaje.
Producir un prototipo completo teniendo en cuenta todos los principios de diseño del juego junto con el sistema de IA ha sido difícil, ya que requería que Gema se pusiera varios sombreros con un «resultado lo suficientemente bueno» para probar realmente la idea desde un punto de vista holístico.
Además, el diseño de NPC ha sido un campo de investigación y estudio activo dentro de la industria de los videojuegos. Si estás dispuesto a hacer una exploración controlada, Gema recomienda este libro para dar una visión general sobre este campo: Inteligencia artificial y juegos. G. Yannakakis & J. Togelius . Capítulo 5 . Modelado de jugadores
Desde el punto de vista del diseño de NPC con el enfoque en la IA, hay una oportunidad completa para automatizar todos los procesos de diseño, que va desde la animación hasta la generación de contenido . Gema cree que todavía están por llegar muchas ideas nuevas, adaptando la investigación procedente de la robótica, la simulación y el procesamiento del lenguaje natural.
En cuanto a los modelos Plug and Play, combinan un gran modelo de lenguaje preentrenado y un modelo de atributos que guían la generación de texto sin necesidad de más entrenamiento, lo que permite una generación de texto flexible y controlada, manteniendo la fluidez. Esta solución ha reducido la generación de contenidos de forma bastante consistente con respecto a la generación de contenidos con GPT del 35% al 1,5% de contenidos desajustados y perjudiciales.
Y está deseando compartir detalles sobre la búsqueda de parámetros clave para la propuesta en el día 1 del Data Innovation Summit este año.
También puede ser importante señalar que proponer una interactividad cooperativa desde la perspectiva del diseño de juegos ha resultado clave con una representación simbólica del lenguaje, ya que los métodos de diálogo sin restricciones siguen siendo difíciles de evaluar.
Como conclusión, Gema podría decir que las lecciones aprendidas provienen de implementar con éxito las mecánicas de diseño del juego que podrían ser óptimas para el sistema, y de elegir una técnica de generación de contenido estratégico que pueda alinearse con las motivaciones de los NPC.
Gema está deseando conectar con interesados en la edición del Data Innovation Summit o mediante una colaboración en tu proyecto de Machine Learning. Contacta con nosotros si necesitas más detalles sobre nuestras soluciones de Data Science.
