Rompiendo el monopolio de CUDA: AMD ROCm para el ajuste fino de IA clínica
El proyecto MedQA demuestra que AMD ROCm se está convirtiendo en una alternativa viable y accesible al CUDA de Nvidia para el ajuste fino de IA clínica especializada.
Hardware
Chips, GPUs y el silicio de abajo
3 artículos en esta sección.
El proyecto MedQA demuestra que AMD ROCm se está convirtiendo en una alternativa viable y accesible al CUDA de Nvidia para el ajuste fino de IA clínica especializada.
El consumo energético de la IA es tan extremo que la infraestructura eléctrica se ha convertido en el principal limitante para el desarrollo de la IA. Y las empresas que resuelvan este problema primero controlarán el cuello de botella que impide a los demás escalar. La intersección entre la IA y la energía no es un proyecto secundario...
AMD acaba de enviar su chip de IA de nueva generación y parece ser el desafío más creíble al dominio de las GPU de NVIDIA que hemos visto en años. NVIDIA ha estado sentada en su trono durante mucho tiempo. Sus ingresos por centros de datos han crecido tan rápido que casi resulta cómico. Pero el AMD MI350 afirma superar al NVIDIA H100 en pruebas de benchmark mientras cuesta menos. Si el mundo real está de acuerdo, eso queda por ver, pero la simbología importa: alguien está diciendo por fin que no al monopsonio de GPU. ¿Quién impulsa esta competencia? Los grandes proveedores de la nube. Amazon, Google y Microsoft están construyendo sus propios chips de IA y se niegan a depender exclusivamente de NVIDIA. Históricamente, esto es un gran paso. Las implicaciones más amplias: el cómputo de IA se abaratará. Más empresas podrán competir. Y la capa de infraestructura de IA de la que hablamos está empezando a tomar forma.