Parece que poco a poco se va haciendo más realidad eso de que la inteligencia artificial acabará siendo un arma poderosa en contra de la humanidad. El proyecto Q Star es una prueba de esto.
En días pasados Sam Altman fue despedido como CEO de OpenAI, lo que hasta ahora se está revelando debido a una supuesta carta enviada por por expertos de la compañía a la directiva, donde advirtieron del peligro del desarrollo de una IA muy superior a lo que se ha visto hasta ahora.
InformaciónRelacionada
De acuerdo a la agencia Reuters, en la carta se hablaba sobre “un poderoso descubrimiento” de inteligencia artificial que sería una amenaza potencial a la humanidad.
Y al respecto, OpenAI sólo admitió en su comunicación interna que sí existe un proyecto llamado Q* o Q Star, pero no dio más datos al respecto.
La agencia afirmó que hay fuentes en la empresa que suponen este proyecto como un avance significativo en la búsqueda de la inteligencia artificial general (AGI), refiriéndose a sistemas autónomos capaces de superar a los seres humanos en la mayoría de las tareas de valor económico.
Y explicado en términos más técnicos, se trata de enseñarla a la IA a tomar decisiones para lograr objetivos. “A medida que el robot explora más el laberinto, comienza a identificar el camino más eficiente hacia el queso“.
¿Cuál es el riesgo potencial de AGI o el proyecto Q Star?
De acuerdo a fuentes anónimas, el riesgo potencial de esta tecnología es que la AGI podría aprender, comprender y aplicar sus conocimientos a futuros problemas si se eleva el nivel de matemáticas que se le está enseñando ahora.
Reuters confirmó que podría haber un grupo de expertos explorando cómo optimizar los modelos de IA existentes para mejorar su razonamiento y su desempeño en ciencias.
Finalmente no hay ninguna voz oficial al respecto, pero no deberíamos descartar que todo lo dicho en la carta sea real, pues ya se habló muchas veces antes del potencial de la IA para convertirse en un arma.
Incluso pudiera ser que gobiernos estuvieran invirtiendo de manera oculta para los avances de esta tecnología hacia temas mucho más peligrosos.
Javier Pastor, editor de @xataka, explica en #Canal24horas en qué consiste el proyecto 'Q Star' relacionado con el despido del director de OpenAI:
— RTVE Noticias (@rtvenoticias) November 24, 2023
"Es un modelo de inteligencia artificial que resuelve problemas matemáticos sin entrenamiento"
▶https://t.co/0Ix6dDs3KF pic.twitter.com/tjXzFzPkQX
También te podría interesar:
