REPORTERO1 
Si le preguntas a Alexa, el sistema de Inteligencia Artificial (IA) asistente de voz de Amazon, si Amazon es un monopolio, responderá que no lo sabe. Y no se necesita saber mucho para dar esa respuesta, pero el artefacto guarda silencio sobre las fechorías de su propia empresa matriz.
Cuando Alexa responde de esta manera, es obvio que está anteponiendo los intereses de su desarrollador a los tuyos. Sin embargo, por lo general, no es tan obvio a quién sirve un sistema de IA. Para evitar ser explotados por estos sistemas, las personas deberán aprender a acercarse a la IA con escepticismo. Eso significa construir deliberadamente la entrada que le das y pensar críticamente sobre su salida.
Las nuevas generaciones de modelos de IA, con sus respuestas más sofisticadas y menos rotativas, hacen que sea más difícil saber quién se beneficia cuando habla. Pero todo eso no es nada nuevo. Los resultados de búsqueda de Google y su feed de Facebook están llenos de entradas pagadas. Facebook, TikTok y otros gigantes tecnológicos manipulan sus feeds para maximizar el tiempo que pasas en la plataforma, lo que significa más vistas de anuncios.
Lo que distingue a los sistemas de IA de esos otros servicios de internet es cuán interactivos son y cómo estas interacciones se volverán cada vez más como relaciones. No se necesita mucha extrapolación de las tecnologías actuales para imaginar IA que planificarán viajes para ti, que negociarán en tu nombre o que actuarán como terapeutas y entrenadores de vida.
Es probable que estén contigo las 24 horas del día, los 7 días de la semana, te conozcan íntimamente y puedan anticiparse a tus necesidades. Este tipo de interfaz conversacional para la vasta red de servicios y recursos en la web está dentro de las capacidades de las IA generativas existentes como ChatGPT. Y están en camino de convertirse en asistentes digitales personalizados.
Como expertos en seguridad y científicos de datos, creemos que las personas que confían en estas IA tendrán que confiar en ellas implícitamente para navegar en la vida diaria. Eso significa que deberán asegurarse de que las IA no estén trabajando en secreto para otra persona. A través de internet, los dispositivos y servicios que parecen funcionar para ti ya funcionan en tu contra en secreto. Los televisores inteligentes te espían. Las aplicaciones de teléfono recopilan y venden tus datos. Muchas aplicaciones y sitios web te manipulan a través de patrones oscuros, elementos de diseño que engañan, coaccionan o engañan deliberadamente a los visitantes de un sitio web. Eso es capitalismo de vigilancia, y la IA se perfila como parte de él.
Muy posiblemente, podría ser mucho peor con la IA. Para que ese asistente digital de IA sea verdaderamente útil, tendrá que conocerte realmente. Mejor que tu teléfono te conoce. Mejor que la búsqueda de Google te conoce. Mejor, quizás, que tus amigos cercanos, compañeros íntimos y terapeuta te conozcan.
No hay motivos para confiar en las principales herramientas de inteligencia artificial generativa de la actualidad. Dejando de lado las alucinaciones, los “hechos” inventados que producen GPT y otros grandes modelos de lenguaje. Esperamos que se limpien en gran medida a medida que la tecnología mejore en los próximos años.
Muchas de estas IA son creadas y entrenadas a un costo enorme por algunos de los monopolios tecnológicos más grandes. Se les ofrece a las personas para que los usen de forma gratuita o a un costo muy bajo. Estas empresas necesitarán monetizarlas de alguna manera. Y, al igual que con el resto de internet, es probable que de alguna manera incluyan vigilancia y manipulación.
Imagina pedirle a tu chatbot que planifique tus próximas vacaciones. ¿Eligió una aerolínea en particular, una cadena de hoteles o un restaurante porque era lo mejor para ti o porque su creador recibió un soborno de las empresas? Al igual que con los resultados pagados en la búsqueda de Google, los anuncios de suministro de noticias en Facebook y las ubicaciones pagadas en las consultas de Amazon, es probable que estos influencers pagados se vuelvan más subrepticios con el tiempo.
Si le pides a tu chatbot información política, ¿los resultados estarán sesgados por la política de la corporación propietaria del chatbot? ¿O por el candidato que pagó más dinero? ¿O incluso las opiniones de la demografía de las personas cuyos datos se usaron para entrenar el modelo? ¿Tu agente de IA es secretamente un agente doble? En este momento no hay forma de saberlo.
