#347 – Mis problemas con la IA generativa

Síguenos en: Nahuai lleva meses intentando formarse una opinión sobre la IA generativa y este es el primer intento de ordenar sus ideas. ¿Qué tal la semana? Semana esther Tareas varias para clientes, vulnerabilidades y malwares y una migración complicada.... vamos, lo de siempre. Semana Nahuai Investigando cómo implementar Apple y Google Pay en RCP Investigando cómo sincronizar usuarios de RCP con Discord Creando items del menú con enlace dinámico Sustituir Cursor y Claude por Zed o OpenCode, para usar LLMs de código abierto exclusivamente. En la medida de lo posible en local (Ollama - LM Studio) Sino OpenCode Go o Ollama Cloud (modelos de código abierto ejecutados en la nube). Investigando los agentes de código abierto como OpenCode y Pi (como alternativa a Claude Code). Contenido Nahuai Tema de la semana: Marketing engañoso El nombre inteligencia artificial no le hace justicia Los LLMs son modelos de predicción No piensan, predicen No alucinan, cometen errores de predicción La mentira de la AGI Hype desmedido Promovido por los principales actores Concentración de poder Controlado por las big tech Mentalidad Silicon Valley: Cuanto más grande mejor (LLMs vs SLMs) Mucha información pero de calidad cuestionable Muévete rápido y rompe cosas vs reflexión Modelo de negocio insostenible Uso subvencionado para ganar cuota de mercado y hacerse imprescindibles Burbuja económica Inversión circular entre las principales empresas Falta de ética Modelos creados en el robo sistemático de contenido sin pagar a los autores Modelo extractivista no sostenible (no revierte de vuelta) Impacto ambiental y social Uso intensivo de electricidad y agua Falta de transparencia Muchas empresas han relajado o abandonado sus planes para reducir las emisiones de CO2 Construcción de centros de datos en zonas con estrés hídrico Falta de privacidad por defecto Todos los datos viajan a servidores externos La mayoría usa los datos para entrenar sus modelos Uso de datos para emplazar publicidad Diseñados para enganchar Chute de dopamina y pensado para engagement Diseñado para que sea difícil saber parar/descansar Tremendamente complacientes Promueven el "sendentarismo cognitivo" Ilusión de mejora de productividad Ilusión de estar hablando con un humano (los antropomorfizamos) Les damos roles para los que no están diseñados No son psicólogos pero tampoco hay controles/limitaciones para que se usen como tal Otros efectos secundarios Excusa para despedir empleados Reemplazo de personas para incrementar ingresos Promueve la brecha digital Refuerzo del individualismo Promueve la creación de herramientas personalizadas para uso propio Devalúa las herramientas compartidas Incremento de la deuda tecnológica Es imposible revisar todo el código generado Acciones Usar la IA generativa de forma responsable. Solo cuando es realmente necesaria y con modelos de código abierto, en local, en la medida de lo posible. Novedades Cal.com deja de ser de código abierto por “culpa” de la IA, aunque comparten el código de cal.diy: https://cal.com/es/blog/cal-com-goes-closed-source-why