Es poco probable que Apple tome medidas enérgicas contra las aplicaciones ChatGPT, pero podría imponer nuevas reglas en el futuro

Los modelos de lenguaje grandes como ChatGPT pueden producir bloques completos de texto que se leen como si los hubiera escrito un humano. Las empresas están compitiendo para integrar ChatGPT en sus aplicaciones, incluyendo microsoft, Quebrary Shopify. Pero la tendencia podría estancarse si Apple decide restringir las aplicaciones basadas en ChatGPT de su App Store, que es la única forma de instalar software en un iPhone.

Blix, un fabricante de aplicaciones de correo electrónico que regularmente chocó con Apple sobre las reglas de su App Store, dice que se encontró con ese obstáculo esta semana.

noticias relacionadas con inversiones

Co-fundador Ben Volach le dijo al Wall Street Journal que Apple rechazó una actualización de su aplicación BlueMail porque integró ChatGPT para ayudar a escribir correos electrónicos y no incluyó el filtrado de contenido sobre la salida del chatbot. Volach también ha afirmado en Twitter que Apple está «bloqueando» una actualización de IA.

Apple dijo que sin el filtrado de contenido, el chatbot de Blue Mail podría producir palabras que no son apropiadas para niños, y la aplicación de correo electrónico tendría que aumentar su edad recomendada a 17 años o más. según el informe.

Apple está investigando y los desarrolladores pueden apelar la decisión, dijo un portavoz a CNBC.

De todos modos, el episodio de Blue Mail no es una señal de una inminente represión de Apple contra las aplicaciones de IA.

De hecho, las funciones impulsadas por ChatGPT ya están en Snapchat y en la aplicación Microsoft Bing, que actualmente se distribuyen a través de la App Store. Otras aplicaciones de IA, como Lensa, también se distribuyeron y florecieron en la App Store.

No existe una política formal de IA o chatbot en Directrices de la tienda de aplicaciones de Apple, un documento que describe lo que Apple permite en la App Store. Apple tiene empleados en un departamento llamado Revisión de aplicaciones que cargan y usan brevemente todas las aplicaciones y actualizaciones antes de aprobarlas.

Apple podría agregar pautas específicas de IA en el futuro. Para aplicaciones criptográficas, por ejemplo, Apple introdujo explícitamente una sección sobre criptomonedas en las pautas que permiten aplicaciones de billetera y prohíben la minería en el dispositivo en una actualización de 2018. Apple introdujo nuevas reglas sobre NFT el año pasado. La empresa suele publicar actualizaciones de sus directrices en junio y octubre.

Pero el episodio de Blue Mail refleja que la App Store de Apple es estricta con el contenido generado a gran escala, ya sea por los usuarios (en el caso de las aplicaciones de redes sociales, por ejemplo) o, más recientemente, por la IA.

Si una aplicación puede mostrar contenido que infringe la propiedad intelectual o mensajes que equivalen a acoso cibernético, por ejemplo, entonces la aplicación debe tener una forma de filtrar ese material y una forma para que los usuarios lo informen, dice Apple.

La regla de moderación de contenido probablemente estuvo en el centro de una escaramuza con el Twitter de Elon Musk a fines del año pasado y fue la razón por la que Apple eliminó a Parler de la App Store en 2021. Apple permitió que Parler volviera a la App Store cuando agregó la moderación de contenido.

Antes de que se lanzara en el iPhone en la aplicación Bing, la IA basada en ChatGPT en Bing producía algunas conversaciones espeluznantes, incluidas amenazas contra sus usuarios y súplicas de ayuda.

Pero Bing tiene herramientas de filtrado y moderación de contenido integradas. La IA de Microsoft permite a los usuarios rechazar las respuestas dañinas e incluye un «sistema de seguridad» que incluye filtrado de contenido y detección de abusos. Microsoft también actualizó su chatbot Bing en las últimas semanas para controlar esas conversaciones espeluznantes, y el chatbot ahora a menudo se niega a abordar temas que podrían hacer que se descarrile.