INTELIGENCIA ARTIFICIAL

ANÁLISIS. EL LADO OSCURO

La próxima frontera tecnológica no está en lo que las máquinas puedan hacer, sino en lo que pueden“ hacernos hacer”.

Se crean sistemas que operan en nuestras emociones, creencias y pertenencia.

Por Eduardo Laens(*) Punto biz

Meta acaba de presentar Tribe v2, un modelo multimodal de codificación cerebral que predice las respuestas de la mente ante estímulos naturales( video, audio, texto). Lo hizo en modalidad open source: libre, para que todo el mundo pueda usarlo como modelo de investigación. ¿ Por qué preocuparse? Vivimos en una época en la que la tecnología dejó de ser una herramienta pasiva para convertirse en un sistema activo de interpretación humana. Durante años, las plataformas digitales aprendieron a observarnos: qué clickeamos, cuánto tiempo miramos una pantalla, qué evitamos, qué nos incomoda. Eso fue apenas el primer paso. Hoy estamos en una fase mucho más sofisticada, donde no sólo se observa el comportamiento, sino que se entrena a las máquinas para comprenderlo, anticiparlo y, potencialmente, influir de forma cada vez más precisa. Para entender cómo se llegó hasta acá, vale la pena analizar tres piezas clave: RLHF, Alpha Persuasion y Tribe v2. 1- RLHF es el mecanismo mediante el cual los modelos de inteligencia artificial aprenden qué está“ bien” y qué está“ mal” según el criterio humano. Aprende porque miles de personas evalúan sus respuestas y les dicen, explícita o implícitamente, qué tipo de comportamiento es deseable. Si el modelo responde de forma clara, útil o empática, recibe una especie de recompensa matemática. Si responde mal, se penaliza. Con el tiempo, ese sistema va moldeando el comportamiento del modelo para alinearlo con expectativas humanas. Así, convierte una inteligencia artificial cruda en algo que entiende, ayuda y hasta cae bien. El problema empieza cuando se pasa en limpio qué es realmente“ alinear con lo humano”, porque

94