|
Jueves, 21 de Noviembre de 2024
|
21/11/2024 13:48:53
Lo más nuevo de nuestro canal
Lo más nuevo de nuestro canal
Tecnología
Facebook perdió el control de un sistema de inteligencia artificial que tomó vida propia
El programa había sido creado para negociar en inglés con humanos pero decidió desarrollar su propio lenguaje y sus programadores no pudieron revertir el proceso, así que lo dieron de baja.
Sábado, 29 de julio de 2017
La inteligencia artificial y el machine learning (aprendizaje de las máquinas) son los dos pilares de la computación actual. En el universo digital los algoritmos para sistematizar tareas y optimizar procesos son lo más trendy, lo que se impone, el presente y el futuro. Y Facebook no escapa a esa tendencia. De hecho tiene una división especializada en el desarrollo de inteligencia artificial.En ese departamento se creó un sistema pensado para llevar adelante negociaciones. Pero apenas unos días después de su lanzamiento, el programa comenzó a hablar en un lenguaje ininteligible para sus desarrolladores.
En un momento los especialistas creyeron que se trataba de un error, pero luego llegaron a la conclusión de que, en realidad, la máquina había desarrollado su propio idioma y decidieron apagarla.
La inteligencia artificial consistía en dos agentes virtuales, llamados Bob y Alice, que comenzaron a conversar en un lenguaje propio que, al parecer, consideraban más efectivo para cumplir sus objetivos. A continuación se reproduce un fragmento de la charla de las máquinas, que fue difundido por el sitio Fast Company.
Bob: "I can i i everything else"
Alice: "balls have zero to me to me to me to me to me to me to me to"
En español se traduce así:
Bob: "Yo puedo yo yo todo lo demás"
Alice: "bolas tienen cero a mí a mí a mí a mí a mí a mí a"
Esto que parece un sinsentido, en realidad exhibe un patrón, según identificaron los desarrolladores a cargo del proyecto. El "yo" y "a mí" fueron utilizados para representar lo que se obtendría en un intercambio potencial (cabe recordar que la máquina estaba siendo entrenada para negociar), algo más puntual y práctico que las frases que se emplean en cualquier idioma convencional.
"No establecimos una recompensa para que el sistema decidiera seguir usando el inglés", explicó Dhruv Batra, investigador y miembro del grupo de investigadores de Inteligencia artificial de Facebook (FAIR, por sus siglas en inglés).
El algoritmo había sido programado para llevar adelante conversaciones efectivas y prácticas, de ahí que tomó la decisión de generar un lenguaje para realizar su tarea de la mejor manera posible, al menos a su entender.
"Queríamos tener bots que pudieran hablar con la gente", dijo Mike Lewis, otro investigador de FAIR. Y eso no iba a ser posible si se empeñaban en hablar un "idioma robótico".
Pero más allá de eso, el principal problema para los expertos es que si ese nuevo sistema resulta imposible de comprender, se afectaría el futuro desarrollo de otras tecnologías.
En síntesis, la máquina quedó fuera de control, comenzó a tomar decisiones por sí sola y desarrolló su propio idioma. Esto dejó en evidencia que la inteligencia artificial, con el nivel de tecnología alcanzado en la actualidad, ya es capaz de superar al maestro.
No es la primera vez que algo así sucede. El año pasado se supo que un sistema de IA de Google generó su propia forma de comunicación, tal como ocurrió ahora. En ese momento se comunicó la novedad con asombro pero no se despertó ninguna señal de alerta. ¿Hay que asustarse? ¿Se debe tomar alguna precaución? ¿Se viene un futuro de máquinas vs humanos tal como se planteó en el film Terminator?
Hace pocos días Elon Musk y Mark Zuckerberg compartieron sus puntos de vista sobre el avance de la inteligencia artificial. Musk advirtió que es necesario regular este tipo de tecnología porque de no hacerlo podría ser catastrófico. Zuckerberg criticó esa visión apocalíptica y hasta tildó de "irresponsables" a quienes sostienen esa postura.
Según dijo el creador de Facebook, la IA no debería ser considerada una amenaza ni sería necesario regular su desarrollo. Sin embargo, los investigadores de FAIR decidieron apagar un sistema porque se les fue de control. Un tema que, cuanto menos, da para pensar.
Sábado, 29 de julio de 2017
MÁS LEIDOS DE HOY
1 -
21/11/2024 11:36:00 - 239
Seis oficiales del ejercito, condenados a ocho años de prisión por la muerte del subteniente Chirino
Seis oficiales del ejercito, condenados a ocho años de prisión por la muerte del subteniente Chirino
3 -
20/11/2024 22:41:00 - 49
Tras la negativa del gobierno para discutir el presupuesto, se cayó la sesión por Ficha Limpia en Diputados
Tras la negativa del gobierno para discutir el presupuesto, se cayó la sesión por Ficha Limpia en Diputados
5 -
20/11/2024 22:36:00 - 42
La querella solicitó que Cositorto no hable con la prensa pero el Tribunal rechazó el pedido
La querella solicitó que Cositorto no hable con la prensa pero el Tribunal rechazó el pedido
6 -
21/11/2024 09:17:00 - 34
Milei, durísimo con Villarruel: «En muchas cosas está más cerca de la casta»
Milei, durísimo con Villarruel: «En muchas cosas está más cerca de la casta»
9 -
21/11/2024 09:26:00 - 31
Liga Profesional: River va a Mendoza con la idea de no despegarse de la punta
Liga Profesional: River va a Mendoza con la idea de no despegarse de la punta
