OpenAI abrió el acceso a un clasificador de imágenes que entrega señales para que equipos especializados puedan decidir qué revisar primero. La herramienta es gratuita para organizaciones aprobadas, pero no está pensada para que cualquier persona la use directamente ni para automatizar decisiones sensibles sin supervisión.
Qué hace el clasificador de OpenAI
El modelo puede señalar imágenes que podrían corresponder a material de abuso sexual infantil, incluso si son nuevas o generadas con inteligencia artificial. La API entrega dos indicadores de riesgo, uno asociado a posible material de abuso y otro a contenido posiblemente generado con IA; ambos pueden activarse a la vez. OpenAI colaboró con el National Center for Missing and Exploited Children durante el desarrollo. La compañía anunció la herramienta el 16 de noviembre y publicó también su ficha técnica del modelo.
En la práctica, sirve como una primera priorización: ayuda a que equipos de confianza y seguridad destinen atención humana a ciertos archivos antes que a otros. No identifica por sí sola quién aparece en una imagen, no verifica el origen de una imagen y tampoco determina si un contenido es ilegal bajo las leyes de un país.
El resultado no reemplaza la revisión humana
OpenAI advierte expresamente que una puntuación del modelo no confirma que una imagen sea material ilegal ni decide si debe reportarse. Es una señal para combinar con otras medidas, como la comparación de huellas digitales de material ya conocido, herramientas de contexto, revisión por personal capacitado y los procedimientos legales aplicables.
La propia ficha técnica muestra por qué importa esa distinción: el desempeño depende del conjunto de imágenes usado para medirlo y de la frecuencia real del contenido en cada plataforma. Cuando ese material es poco frecuente, incluso una proporción baja de falsos positivos puede generar muchas alertas que alguien tendrá que revisar. OpenAI también dice que hacen falta evaluaciones independientes con métodos comunes para poder comparar estas herramientas y encontrar sus puntos ciegos.
Quién puede acceder y qué ocurre con las imágenes
El acceso se solicita mediante la página de aprobación de OpenAI; la empresa evalúa a las organizaciones antes de habilitar el uso por API y no cobra por el clasificador. La disponibilidad para un país o entidad concreta depende de esa aprobación. OpenAI indica en su documentación que las imágenes enviadas a este endpoint se procesan sin retención y no se usan para entrenar o evaluar el modelo.
Para organizaciones de protección infantil o plataformas que ya cuentan con equipos especializados, puede ser una herramienta adicional para ordenar la carga de revisión. Para el resto, el anuncio no significa que haya aparecido un detector público que entregue veredictos automáticos. Si una decisión puede afectar a una persona, el score por sí solo no alcanza.
Fuentes: anuncio de OpenAI, documentación de la API y cobertura independiente de TechCrunch.