Filosofía de la IA para quienes odian la filosofía

La opción práctica

La mayoría de la gente trata la filosofía de la inteligencia artificial como un debate sobre si los robots tienen alma. Es un error que nos hace perder el tiempo y oculta los riesgos reales. En el mundo profesional, la filosofía de esta tecnología es, en realidad, una discusión sobre responsabilidad, precisión y el coste del trabajo humano. Se trata de quién es responsable cuando un modelo comete un error que le cuesta millones de dólares a una empresa. Se trata de si un trabajador creativo es dueño del estilo que pasó décadas perfeccionando. Estamos dejando atrás la era de preguntarnos si las máquinas pueden pensar. Ahora estamos en la era de decidir cuánto confiamos en ellas para actuar en nuestro nombre. El reciente cambio en la industria ha pasado de chat bots que cuentan chistes a agentes que pueden reservar vuelos y escribir código. Este cambio nos obliga a afrontar la mecánica de la confianza en lugar del misterio de la conciencia. Si odias la filosofía, míralo como una serie de negociaciones de contrato. Estás estableciendo los términos para un nuevo tipo de empleado que nunca duerme pero que a menudo alucina. El objetivo es construir un marco donde los beneficios de la velocidad no superen los riesgos de un fallo total del sistema.

La mecánica de la lógica de las máquinas

Para entender el estado actual de la industria, debes ignorar los términos de marketing. Un large language model no es un cerebro. Es un mapa estadístico masivo del lenguaje humano. Cuando escribes un prompt, el sistema no está pensando en tu pregunta. Está calculando qué palabra tiene más probabilidades de seguir a la anterior basándose en billones de ejemplos. Por eso los sistemas son tan buenos en poesía pero tan malos en matemáticas básicas. Entienden los patrones de cómo la gente habla de los números, pero no entienden la lógica de los números en sí. Esta distinción es vital para cualquiera que utilice estas herramientas en un entorno empresarial. Si tratas el resultado como un registro de hechos, estás usando la herramienta incorrectamente. Es un sintetizador creativo, no una base de datos. La confusión suele provenir de lo bien que estos modelos imitan la empatía humana. Pueden sonar amables, frustrados o serviciales, pero estos son solo espejos lingüísticos. Reflejan el tono de los datos con los que fueron entrenados.

El cambio que hemos visto recientemente implica una tendencia hacia el grounding de estos modelos en datos del mundo real. En lugar de dejar que un modelo adivine una respuesta, las empresas ahora los están conectando a sus propios archivos internos. Esto reduce la posibilidad de que el modelo invente cosas. También cambia lo que está en juego en la conversación. Ya no preguntamos qué sabe el modelo. Estamos preguntando cómo accede el modelo a lo que nosotros sabemos. Este es un cambio del arte generativo a la utilidad funcional. La filosofía aquí es simple. Es la diferencia entre un narrador y un administrativo. La mayoría de los usuarios quieren al administrativo, pero la tecnología fue construida para ser el narrador. Conciliar esas dos identidades es el principal desafío para los desarrolladores hoy en día. Debes decidir si quieres una herramienta creativa o una herramienta precisa, porque actualmente es difícil obtener ambas al máximo nivel simultáneamente.

Apuestas globales e intereses nacionales

El impacto de estas elecciones no se limita a oficinas individuales. Los gobiernos ahora tratan el desarrollo de estos modelos como una cuestión de seguridad nacional. En Estados Unidos, las órdenes ejecutivas se centran en la seguridad de los sistemas más potentes. En Europa, la AI Act ha creado un marco legal que clasifica los sistemas por riesgo. Esto crea una situación donde la filosofía de un desarrollador en California puede afectar la legalidad de un producto en Berlín. Estamos viendo un mundo fragmentado donde diferentes regiones tienen ideas muy distintas sobre lo que se le debería permitir hacer a una máquina. Algunas naciones ven la tecnología como una forma de impulsar la producción económica a cualquier precio. Otras lo ven como una amenaza para el tejido social y los mercados laborales. Esto crea un conjunto de reglas separado para cada mercado, lo que dificulta que las pequeñas empresas compitan con los gigantes que pueden pagar grandes equipos legales.

La cadena de suministro global para esta tecnología también es un punto de tensión. El hardware necesario para ejecutar estos modelos está concentrado en unas pocas manos. Esto crea un nuevo tipo de dinámica de poder entre los países que diseñan los chips, los que los fabrican y los que proporcionan los datos. Para el usuario promedio, esto significa que las herramientas de las que dependes podrían estar sujetas a guerras comerciales o controles de exportación. La filosofía de la IA está ahora ligada a la filosofía de la soberanía. Si un país depende de un modelo extranjero para su sistema de salud o legal, pierde cierto grado de control sobre su propia infraestructura. Por eso estamos viendo un impulso hacia modelos locales y sovereign clouds. El objetivo es garantizar que la lógica que gobierna a una nación no sea propiedad de una corporación al otro lado del planeta. Este es el lado práctico del debate que a menudo se pierde en las charlas sobre escenarios de ciencia ficción.

Una mañana con inteligencia sintética

Considera un día típico para una directora de marketing llamada Sarah. Comienza su mañana pidiéndole a un asistente que resuma tres docenas de correos electrónicos. El asistente lo hace en segundos, pero Sarah tiene que comprobar si omitió algún detalle crucial sobre un recorte presupuestario. Más tarde, utiliza una herramienta generativa para crear imágenes para una nueva campaña. Pasa una hora ajustando el prompt porque la máquina sigue dándole seis dedos a las personas en las imágenes. Por la tarde, utiliza un asistente de programación para corregir un error en el sitio web de la empresa, aunque no sabe programar. Es esencialmente la directora de una orquesta digital. No está haciendo el trabajo manual, pero es responsable de la actuación final. Esta es la nueva realidad del trabajo. Se trata más de editar y verificar que de crear desde cero. Sarah es más productiva, pero también está más cansada. La carga mental de comprobar constantemente si una máquina comete errores es diferente a la carga de hacer el trabajo ella misma

Los incentivos para la empresa de Sarah también han cambiado. Ya no contratan escritores de nivel inicial. Contratan a un editor senior que utiliza tres modelos diferentes para producir la misma cantidad de contenido. Esto ahorra dinero a corto plazo, pero crea un problema a largo plazo. ¿De dónde vendrá la próxima generación de editores senior si nadie hace el trabajo de nivel inicial? Esta es una consecuencia de la lógica actual de eficiencia. Estamos optimizando el presente mientras potencialmente vaciamos el futuro. Lo que está en juego para los creadores es aún mayor. Músicos e ilustradores están viendo cómo su trabajo se utiliza para entrenar a los mismos modelos que ahora compiten con ellos por puestos de trabajo. Esto no es solo un cambio en el mercado. Es un cambio en el valor que le damos al esfuerzo humano. Debemos preguntarnos si estamos valorando más el resultado que el proceso, y qué sucede con nuestra cultura cuando el proceso está oculto dentro de una caja negra.

• Los líderes de las empresas deben decidir si valoran la velocidad por encima del pensamiento original.
• Los empleados deben aprender a auditar el resultado de la máquina como una habilidad principal.
• Los legisladores deben equilibrar la necesidad de innovación con la protección de la fuerza laboral.
• Los creadores deben encontrar formas de demostrar que su trabajo es humano para mantener su valor.
• Los educadores deben repensar cómo califican a los estudiantes cuando las respuestas están a un clic de distancia.

Los costes ocultos de la automatización

A menudo hablamos de los beneficios de esta tecnología sin mencionar la factura. El primer coste es la privacidad. Para hacer estos modelos más útiles, tenemos que darles más datos. Se nos anima a alimentar estos sistemas con nuestros horarios personales, nuestras notas privadas y nuestros secretos corporativos para obtener mejores resultados. Pero, ¿a dónde van esos datos? La mayoría de las empresas afirman que no utilizan los datos de los clientes para entrenar sus modelos, pero la historia de internet sugiere que las políticas pueden cambiar. Una vez que tus datos están dentro del sistema, es casi imposible sacarlos. Este es un intercambio permanente de privacidad por conveniencia. También estamos viendo un aumento masivo en el consumo de energía. Entrenar un solo modelo grande requiere suficiente electricidad para abastecer a miles de hogares durante un año. A medida que avanzamos hacia sistemas más complejos, el coste ambiental solo crecerá. Debemos preguntarnos si la capacidad de generar una imagen divertida de un gato vale la huella de carbono que genera.

También está el coste de la verdad. A medida que resulta más fácil generar texto e imágenes realistas, el valor de la evidencia disminuye. Si todo puede ser falso, entonces nada puede ser probado. Esto ya está afectando a nuestros sistemas políticos y tribunales legales. Estamos entrando en un período donde la suposición predeterminada es que lo que vemos en una pantalla es mentira. Esto crea un alto nivel de fricción social. Hace más difícil ponerse de acuerdo sobre hechos básicos. La filosofía de la IA aquí trata sobre la erosión de una realidad compartida. Si todos miran una versión del mundo que ha sido filtrada y alterada por un algoritmo, perdemos la capacidad de comunicarnos eficazmente a través de esas divisiones. Estamos cambiando una base social estable por una experiencia más personalizada y entretenida. Esta es una elección que hacemos cada vez que usamos estas herramientas sin cuestionar su fuente o su intención.

¿Tienes una historia, herramienta, tendencia o pregunta sobre IA que crees que deberíamos cubrir? Envíanos tu idea de artículo — nos encantaría escucharla.

Restricciones técnicas y sistemas locales

Para los usuarios avanzados, la conversación es algo más que ética. Se trata de los límites del hardware y el software. Uno de los mayores obstáculos es la ventana de contexto. Esta es la cantidad de información que un modelo puede mantener en su memoria activa a la vez. Aunque estas ventanas están creciendo, siguen siendo limitadas. Si alimentas a un modelo con un libro de mil páginas, eventualmente comenzará a olvidar el principio cuando llegue al final. Esto genera inconsistencias en proyectos largos. También está el problema de los límites de API y la latencia. Si tu negocio depende de un modelo de terceros, estás a merced de su tiempo de actividad y sus precios. Un cambio repentino en sus términos de servicio puede romper todo tu flujo de trabajo. Por eso muchos usuarios avanzados se están moviendo hacia el almacenamiento local y la ejecución local. Están ejecutando modelos más pequeños en su propio hardware para mantener el control y la velocidad.

La integración del flujo de trabajo es el siguiente gran desafío. No basta con tener un cuadro de chat en un sitio web. El valor real proviene de conectar estos modelos a herramientas existentes como hojas de cálculo, bases de datos y software de gestión de proyectos. Esto requiere una comprensión profunda de cómo estructurar los datos para que el modelo pueda entenderlos. Estamos viendo el auge de RAG, o Retrieval-Augmented Generation. Este es un método donde el modelo busca información específica de una fuente confiable antes de responder. Es una forma de cerrar la brecha entre la naturaleza estadística del modelo y las necesidades fácticas del usuario. Sin embargo, esto añade una capa de complejidad al sistema. Tienes que gestionar el motor de búsqueda, la base de datos y el modelo simultáneamente. Es una solución de alto mantenimiento que requiere un conjunto específico de habilidades para gestionarla eficazmente.

• La cuantización permite que los modelos grandes se ejecuten en hardware de consumo al reducir la precisión de los pesos.
• El fine tuning se está volviendo menos popular a medida que RAG proporciona una mejor precisión fáctica con menos esfuerzo.
• La tokenización sigue siendo un coste oculto que puede hacer que ciertos idiomas sean más caros de procesar que otros.
• La ejecución local es la única forma de garantizar el 100 por ciento de privacidad para datos corporativos sensibles.
• La destilación de modelos está creando versiones más pequeñas y rápidas de modelos gigantes para uso móvil.

El camino práctico a seguir

La filosofía de la IA no es una distracción del trabajo. Es el trabajo. Cada vez que eliges un modelo, estás tomando una decisión sobre qué tipo de lógica quieres que domine tu vida. Estás decidiendo qué riesgos son aceptables y qué costes son demasiado altos. La tecnología está cambiando rápidamente, pero las necesidades humanas siguen siendo las mismas. Queremos herramientas que nos hagan mejores, no herramientas que nos reemplacen. Queremos sistemas que sean transparentes, no sistemas que operen en la oscuridad. La confusión en torno a este tema suele ser intencional. Es más fácil para las empresas vender una caja mágica que vender una herramienta estadística compleja. Al eliminar lo superfluo y centrarse en los incentivos, puedes ver la tecnología como lo que realmente es. Es una creación poderosa, defectuosa y profundamente humana. Refleja nuestras mejores ideas y nuestros peores hábitos. El objetivo es usarla con los ojos abiertos, entendiendo las compensaciones que haces en cada interacción. Puedes encontrar más información sobre las últimas tendencias en machine learning para mantenerte al tanto de estos cambios. Para obtener información más profunda sobre la ética de estos sistemas, recursos como el Stanford Institute for Human-Centered AI y el MIT Technology Review proporcionan datos excelentes. También puedes seguir los cambios legales en la sección de tecnología del New York Times.

Nota del editor: Creamos este sitio como un centro multilingüe de noticias y guías sobre IA para personas que no son expertos en informática, pero que aún quieren entender la inteligencia artificial, usarla con más confianza y seguir el futuro que ya está llegando.