China prohíbe los medios generados por IA sin marca de agua

La Administración del Ciberespacio de China recientemente Reglamento publicado Prohíbe la creación de medios generados por IA sin etiquetas claras, como marcas de agua, entre otras políticas.informes Registro. Las nuevas reglas forman parte de la evolución de China hacia la tendencia de IA que sacudió el mundo tecnológico en 2022 y entrará en vigencia el 10 de enero de 2023.

En China, el Administración del Ciberespacio Supervisa la regulación, supervisión y auditoría de Internet. Bajo las nuevas regulaciones, la administración monitoreará de cerca lo que llama tecnología de «síntesis profunda».

En una publicación de noticias en el sitio web de la oficina de China de la Comisión Central de Asuntos del Ciberespacio, el gobierno describió sus razones para emitir la regulación. Esto indica una ola reciente Texto, Imagen, la vozY Video Un conjunto de IA que China reconoce como fundamental para el crecimiento económico futuro (traducción a través de Google Translate):

En los últimos años, la tecnología de síntesis profunda se ha desarrollado rápidamente. Mientras satisface las necesidades del usuario y mejora la experiencia del usuario, algunas personas sin escrúpulos lo utilizan para preparar, copiar, publicar y difundir información ilegal y dañina, difamar y menospreciar la reputación y el honor de otros, y falsificar la identidad de otros. El engaño, etc., afecta el orden de la comunicación y el orden social, lesiona los derechos e intereses legítimos del pueblo y pone en peligro la seguridad nacional y la estabilidad social.

La introducción de «regulaciones» es un requisito para prevenir y abordar los riesgos de seguridad y es necesaria para promover el desarrollo saludable de los servicios artificiales profundos y mejorar el nivel de las capacidades de supervisión.

Según las regulaciones, los nuevos productos de envasado profundo estarán sujetos a una evaluación de seguridad del gobierno. Cada producto debe cumplir con las regulaciones antes de ser lanzado. Además, la Administración enfatiza específicamente la necesidad de «marcas» transparentes (como las marcas de agua) que identifiquen el contenido generado por IA:

Los proveedores de servicios de agregación profunda deben incluir indicaciones que no afecten la usabilidad del contenido de información creado o editado utilizando sus servicios. Los servicios que brindan funcionalidades como conversación inteligente, voz humana integrada, generación de rostros humanos y pantallas de realidad virtual inmersiva que crean o cambian significativamente el contenido de la información se enfocarán específicamente para evitar la confusión pública o la identificación errónea.

Ninguna empresa o individuo utilizará medios técnicos para eliminar, desfigurar u ocultar las marcas asociadas.

Además, las empresas que ofrecen tecnología de síntesis profunda deben mantener sus registros de conformidad con la ley, y las personas que usan la tecnología deben registrarse en cuentas con sus nombres reales para que se puedan rastrear sus actividades generacionales.

Al igual que EE. UU., China ha visto un auge en las aplicaciones impulsadas por IA. Por ejemplo, producido por Baidu, una de las principales empresas de tecnología de China. Un modelo de colección de imágenes. Es como esto Dahl-E y difusión constante.

Un número creciente de tecnólogos ha reconocido recientemente que China y EE. UU. se enfrentan a una próxima ola de IA que podría plantear desafíos para las estructuras energéticas. Habilita el fraude, o incluso distorsionar nuestro sentido de la historia. Hasta ahora, los dos países han reaccionado casi como polos opuestos, junto con EE. UU. Directrices no vinculantes Contra los firmes controles de China.

En 2019, China publicó sus primeras reglas Publicar deepfakes de «noticias falsas» sin etiquetar es ilegal. Esas reglas entraron en vigencia a principios de 2020.

Catálogo de Ars Technica Fig