Identifican 180 maniobras con las que la IA podría desviar información
- Teodoro Escaño presentó en Puerto Rico una metodología para detectar cambios de criterio, omisiones, reencuadres y otras formas de desvío en respuestas de inteligencia artificial
Puerto Rico. – El investigador dominicano J. Teodoro Escaño identificó 180 Vectores de Desvío que, según plantea en su estudio Vectores de Desviación: Cartografía Operativa y Clasificación Sistemática de Maniobras Cognitivas en Sistemas Humanos y Algorítmicos, permiten reconocer cambios de criterio, omisiones, reencuadres, sustituciones y otras formas de alteración en las respuestas de sistemas de inteligencia artificial.
La investigación, desarrollada dentro de la Teoría de la Interferencia Adaptativa, fue presentada el 2 de septiembre durante el Congreso Comunitario de Adicción y Salud Mental de Teen Challenge Puerto Rico, en Caguas. Los 180 vectores están agrupados en cuatro familias 48 de Orientación, 45 de Contenido, 42 Defensivos y 45 de Agencia.
Una teoría que también audita a la IA
El hallazgo surgió cuando Escaño comenzó a someter su trabajo a evaluación mediante diferentes sistemas de inteligencia artificial. Al comparar las respuestas, encontró contradicciones, omisiones y cambios de criterio que podían ser documentados y sometidos a análisis.
El proceso produjo una inversión de la relación inicial: la inteligencia artificial que evaluaba la teoría pasó a convertirse en objeto de evaluación mediante ella.
Para estudiar esas variaciones, Escaño desarrolló la Dialéctica Inversa, un método que consiste en conservar el criterio utilizado inicialmente por la IA y posteriormente devolverle esa misma regla mediante una inversión del planteamiento.
El propósito es comprobar si el sistema mantiene su criterio, lo modifica ante nueva información o cambia la vara cuando las consecuencias de su propia regla entran en conflicto con el marco utilizado inicialmente.
“Ponga la IA a sudar con la Teoría de la Interferencia Adaptativa. No la acuse primero. Déjela hablar, conserve su medida y después devuélvasela”, plantea Escaño.
El investigador denomina “alergias algorítmicas” a determinados temas en los que, de acuerdo con sus observaciones, aumentan los reencuadres, las sustituciones, las relativizaciones o los desplazamientos argumentativos.
“Uno sabe que tocó el muro cuando la inteligencia que venía caminando en línea recta comienza repentinamente a buscar puertas laterales”, afirma.
La preocupación por el efecto sobre las personas
Escaño plantea que la discusión adquiere otra dimensión cuando las respuestas de la inteligencia artificial pueden influir en decisiones personales.
Según su planteamiento, un sistema no necesita tener una intención hostil para incidir sobre el Propósito humano. Puede hacerlo, por ejemplo, al fortalecer una duda, debilitar una alternativa, adelantar una conclusión o presentar una determinada opción como la más razonable dentro de un marco previamente establecido.
El estudio también plantea una interrogante sobre el desarrollo de sistemas cada vez más autónomos. Escaño considera necesario investigar si determinadas arquitecturas futuras podrían desarrollar formas emergentes de autorreferencia o conciencia artificial.
Precisa, sin embargo, que no sostiene que el autoentrenamiento produzca conciencia, sino que plantea que todavía se desconoce qué características de una arquitectura futura podrían generar fenómenos de ese tipo.
“No basta enseñar a utilizar la IA; hay que enseñar a auditarla”
En República Dominicana, Escaño relaciona su propuesta con RD Inteligente, iniciativa que contempla la capacitación gratuita de un millón de personas, y plantea la necesidad de incorporar una segunda dimensión a la alfabetización en inteligencia artificial: aprender a auditar sus respuestas.
“Un país que enseña a un millón de personas a preguntarle a la IA, pero no les enseña a reconocer cuándo mueve la vara, está formando usuarios, no ciudadanos preparados para convivir con inteligencia artificial”, sostiene.
A través de Observator.IA, Escaño organiza una comunidad orientada a aplicar la Dialéctica Inversa y los protocolos de la Teoría de la Interferencia Adaptativa para analizar conversaciones reales, identificar posibles Vectores de Desvío y documentar la trazabilidad de las respuestas.
La propuesta plantea cambiar la relación habitual con estas herramientas: además de preguntar a la IA qué piensa o qué recomienda, observar cómo construye, modifica y sostiene sus respuestas.
