El discurso ofrece un contraste implícito con empresas como Alphabet, Amazon o Meta, que recopilan y almacenan enormes cantidades de datos personales. Apple dice que cualquier dato own transferido a la nube se utilizará únicamente para la tarea de IA en cuestión y la empresa no lo conservará ni podrá acceder a él, ni siquiera para depuración o manage de calidad, después de que el modelo finish la solicitud.

En pocas palabras, Apple dice que la gente puede confiar en que analizará datos increíblemente confidenciales (fotos, mensajes y correos electrónicos que contienen detalles íntimos de nuestras vidas) y brindará servicios automatizados basados ​​en lo que encuentre allí, sin tener que almacenar los datos en línea ni hacer ningún de ella susceptible.

Mostró algunos ejemplos de cómo funcionará esto en las próximas versiones de iOS. En lugar de desplazarse por los mensajes de ese podcast que le envió su amigo, por ejemplo, puede simplemente pedirle a Siri que lo busque y lo reproduzca. Craig Federighi, vicepresidente senior de ingeniería de computer software de Apple, analizó otro escenario: llega un correo electrónico retrasando una reunión de trabajo, pero su hija aparece en una obra de teatro esa noche. Su teléfono ahora puede encontrar el PDF con información sobre el rendimiento, predecir el tráfico nearby y avisarle si llegará a tiempo. Estas capacidades se extenderán más allá de las aplicaciones creadas por Apple, permitiendo a los desarrolladores aprovechar también la IA de Apple.

Debido a que la empresa se beneficia más del components y los servicios que de los anuncios, Apple tiene menos incentivos que otras empresas para recopilar datos personales en línea, lo que le permite posicionar al Iphone como el dispositivo más privado. Aun así, Apple se ha encontrado anteriormente en el punto de mira de los defensores de la privacidad. Los fallos de seguridad provocaron filtraciones de fotografías explícitas de iCloud en 2014. En 2019, se descubrió que los contratistas escuchaban grabaciones íntimas de Siri para regulate de calidad. Las disputas sobre cómo Apple maneja las solicitudes de datos de las autoridades siguen en curso.

La primera línea de defensa contra las violaciones de la privacidad, según Apple, es evitar la computación en la nube para tareas de IA siempre que sea posible. “La piedra angular del sistema de inteligencia private es el procesamiento en el dispositivo”, afirma Federighi, lo que significa que muchos de los modelos de IA se ejecutarán en iPhones y Mac en lugar de en la nube. “Conoce sus datos personales sin recopilarlos”.

Esto presenta algunos obstáculos técnicos. Dos años después del auge de la IA, hacer ping a modelos incluso para tareas simples todavía requiere enormes cantidades de potencia informática. Lograr eso con los chips utilizados en teléfonos y computadoras portátiles es difícil, razón por la cual solo el modelo más pequeño de inteligencia synthetic de Google puede ejecutarse en los teléfonos de la compañía, y todo lo demás se hace a través de la nube. Apple dice que su capacidad para manejar cálculos de IA en el dispositivo se debe a años de investigación sobre el diseño de chips, lo que llevó a los chips M1 que comenzó a implementar en 2020.

Sin embargo, ni siquiera los chips más avanzados de Apple pueden manejar todo el espectro de tareas que la compañía promete llevar a cabo con IA. Si le pides a Siri que haga algo complicado, es posible que deba pasar esa solicitud, junto con tus datos, a modelos que están disponibles sólo en los servidores de Apple. Este paso, dicen los expertos en seguridad, introduce una serie de vulnerabilidades que pueden exponer su información a malos actores externos, o al menos a la propia Apple.

“Siempre advierto a la gente que tan pronto como los datos salen de su dispositivo, se vuelven mucho más vulnerables”, dice Albert Fox Cahn, director ejecutivo del Proyecto de Supervisión de Tecnología de Vigilancia y practicante residente en el Instituto de Derecho de la Información de la Facultad de Derecho de la Universidad de Nueva York.