STRM Noticias

Moonshot AI presentó el 16 de julio Kimi K3, un modelo de inteligencia artificial generativa con 2.8 billones de parámetros, equivalentes a 2.8 millones de millones. Cuatro días después, la empresa china suspendió las nuevas suscripciones porque las solicitudes se acercaron al límite de sus centros de cómputo. En la primera sesión posterior al anuncio, Zhipu cayó 27.7% en Hong Kong y MiniMax perdió 16.5%, durante una jornada afectada también por el vencimiento de periodos de bloqueo para accionistas de ambas compañías.

K3 es el modelo más grande que Moonshot ha construido y el primero anunciado dentro de la categoría abierta cercana a 3 billones de parámetros. Recibe imágenes junto con texto y su respuesta permanece en formato textual. La ventana de contexto alcanza un millón de tokens, suficiente para mantener repositorios extensos de software dentro de una sola sesión. Artificial Analysis calcula que esa capacidad equivale aproximadamente a 1,573 páginas tamaño carta con tipografía de 12 puntos.

El tamaño total describe las variables aprendidas durante el entrenamiento. K3 emplea una mezcla de expertos que activa 16 de sus 896 expertos para cada token y reduce así el cálculo. Moonshot añadió Kimi Delta Attention para secuencias largas y Attention Residuals para recuperar información entre capas. La empresa calcula que ambos cambios elevan 2.5 veces la eficiencia de escalamiento respecto de Kimi K2.