El director ejecutivo de Amazon, Andy Jassy, hablando con Jim Cramer de CNBC sobre Mad Money en Seattle, WA. el 6 de diciembre de 2023.
CNBC
Manzana está usando actualmente Amazonas Los chips de inteligencia artificial personalizados de Web Services para servicios como la búsqueda evaluarán si el último chip de IA de la compañía se puede utilizar para entrenar previamente sus modelos como Apple Intelligence.
Apple reveló su uso de los chips patentados de Amazon en la conferencia anual AWS Reinvent el martes. Benoit Dupin, director senior de aprendizaje automático e inteligencia artificial de Apple, subió al escenario para discutir cómo Apple usa el servicio en la nube. Es un raro ejemplo de una empresa que permite oficialmente que un proveedor lo promocione como cliente.
«Tenemos una relación sólida y la infraestructura es confiable y capaz de servir a nuestros clientes en todo el mundo», dijo Dupin de Apple.
La aparición de Apple en la conferencia de Amazon y su adopción de los chips de la compañía es un fuerte respaldo al servicio en la nube que compite con microsoft azur y Google Nube para el gasto en IA. Apple también utiliza esos servicios en la nube.
Benoit dijo que Apple había utilizado AWS durante más de una década para servicios como Siri, Apple Maps y Apple Music. Apple ha utilizado los chips Inferentia y Graviton de Amazon para ofrecer servicios de búsqueda, por ejemplo, y Benoit dijo que los chips de Amazon habían dado lugar a una ganancia de eficiencia del 40%.
Pero Benoit también sugirió que Apple usaría el chip Trainium2 de Amazon para entrenar previamente sus modelos patentados. Es una señal de que los chips de Amazon no son sólo una forma rentable de inferir modelos de IA en comparación con los procesadores centrales x86 fabricados por Intel y AMDpero también se puede utilizar para desarrollar nueva IA. Amazon anunció el martes que su chip Trainium2 estaba generalmente disponible para alquilar.
«En las primeras etapas de evaluación de Trainium2 esperamos cifras iniciales de hasta un 50% de mejora en la eficiencia con el entrenamiento previo», dijo Dupin.
El director ejecutivo de AWS, Matt Garman, dijo en una entrevista con CNBC el martes que Apple había sido uno de los primeros en adoptar y probar la versión beta de los chips Trainium de la compañía.
Apple «vino a nosotros y nos dijo: ‘¿Cómo pueden ayudarnos con nuestras capacidades de IA generativa? Necesitamos infraestructura para poder construir’, y tenían esta visión para construir Apple Intelligence», dijo el CEO de AWS, Matt Carman, a CNBC. Kate Rooney.
A principios de este año, Apple dijo en un artículo de investigación que había utilizado los chips TPU de Google Cloud para entrenar su servicio de inteligencia artificial para iPhone, al que llama Apple Intelligence.
La mayor parte del entrenamiento en IA se realiza en costosos NVIDIA procesadores gráficos. Los proveedores de nube y las nuevas empresas están compitiendo para desarrollar alternativas que reduzcan los costos y están explorando diferentes enfoques que podrían conducir a un procesamiento más eficiente. El uso de chips personalizados por parte de Apple podría indicar a otras empresas que los enfoques de capacitación que no son de Nvidia pueden funcionar.
Se espera que AWS anuncie nuevos detalles el martes sobre la oferta de alquiler de servidores de inteligencia artificial basados en Nvidia Blackwell.
Apple lanzó su primer producto importante de IA generativa este otoño. Apple Intelligence es una serie de servicios que pueden resumir notificaciones, reescribir correos electrónicos y generar nuevos emojis. A finales de este mes, se integrará con ChatGPT de OpenAI, dice la compañía, y el próximo año, Siri obtendrá nuevas capacidades para controlar aplicaciones y hablar con naturalidad.
A diferencia de los principales chatbots como ChatGPT de OpenAI, el enfoque de Apple hacia la IA no se basa en grandes grupos de servidores basados en Nvidia en la nube. En cambio, Apple utiliza un chip de iPhone, iPad o Mac para realizar la mayor parte del procesamiento posible y luego envía consultas complicadas a los servidores operados por Apple utilizando sus propios chips de la serie M.
