El CEO de IBM dice que los modelos de pesos abiertos ya son buenos y baratos on-prem
El CEO de IBM, Arvind Krishna, dijo a los inversionistas en la llamada de resultados de su Q3 que los modelos de pesos abiertos han cerrado la mayor parte de la brecha con los modelos cerrados de frontera, de 70 contra 20 en benchmarks en 2024 a 70 contra 50 a finales de 2025. Afirma que los modelos abiertos cuestan hoy entre el 10 y el 25 por ciento de los precios de tokens de frontera y rinden un 90 por ciento, lo que los convierte en la elección obvia para tareas como resumir correos o atender una llamada de cliente. La mayoría de las empresas podría montar IA on-prem en dos o tres racks, dijo, pero le costaría encontrar talento de kernel y redes para operarla, y en IBM esperan que eso impulse las ventas de sus tarjetas aceleradoras Spyre.
La discusión
La mayoría de los comentarios coinciden en que la afirmación responde a su propio interés: la cifra de un 90 por ciento de calidad por el 10 por ciento del costo viene de un CEO cuya empresa vende los racks, los aceleradores Spyre y la consultoría, de modo que, como puso uno, dice exactamente lo mismo que un laboratorio de frontera que afirme lo contrario: nada. La objeción más afilada es que “barato” hace un trabajo sin examinar: un comentarista que maneja un equipo de ocho GPU más dos DGX Sparks calcula el capital en unos $25K y el consumo en 1500W, y admite que no le sale más barato que un laboratorio de frontera — lo mantiene por privacidad, no por precio. La contrapuesta en ese subhilo es que las suscripciones a APIs están subsidiadas y que una década de Claude Code 20x Max quizá no sobreviva a la caída de los precios de inferencia, así que el hardware local aún podría ganar. Un segundo argumento versa sobre si IBM puede siquiera suministrar el equipo: la tarjeta Spyre existe, pero los comentaristas la sitúan entre cinco y diez años por detrás de Nvidia, citan la inercia de CUDA y el proceso de ventas empresariales de IBM (“llámenos”), y dudan que una empresa con “una gestión intermedia completamente disfuncional” cierre la brecha.