Los expertos interpretan el "Reglamento de gestión de recomendaciones de algoritmos de servicios de información de Internet"
Licencia
Director del Centro de Investigación de Economía Digital e Innovación Legal, Universidad de Economía y Negocios Internacionales
El camino de China hacia la “gobernanza colaborativa algorítmica” está tomando silenciosamente forma
Con el desarrollo de la tecnología de la información, la evolución de las aplicaciones comerciales y la iteración de la gestión gubernamental, hemos entrado en una "sociedad de algoritmos". Entre ellos, los algoritmos planifican nuestros caminos, filtran los resultados de búsqueda, eligen amigos e incluso nos otorgan créditos sociales o deciden si podemos viajar. En cierto sentido, los algoritmos determinan quiénes somos, qué vemos y cómo pensamos.
Debido a esto, el "Reglamento" emitido al comienzo del nuevo año es de gran importancia. Desde la investigación y preparación a principios del año pasado, hasta la solicitud de opiniones sobre 5438+00 en junio del año pasado y el lanzamiento oficial en el nuevo año, el camino de gobernanza de los servicios de recomendación de algoritmos de mi país se ha vuelto cada vez más claro. y el camino chino de la "gobernanza colaborativa de algoritmos" ha ido tomando forma silenciosamente.
Por un lado, la gobernanza colaborativa de algoritmos es la colaboración de varias agencias reguladoras. Como tecnología general, el algoritmo actual no es sólo una actividad comercial, sino también una construcción social. La complejidad del algoritmo requiere que su gobernanza dependa de la división del trabajo y la cooperación de múltiples agencias reguladoras. En comparación con el borrador para comentarios, el artículo 3 del borrador oficial aclara específicamente el marco regulatorio en el que "la Administración del Ciberespacio de China es responsable de la coordinación general, y las telecomunicaciones, la seguridad pública y la supervisión del mercado del Consejo de Estado se supervisan y gestionan por separado. " Combina la supervisión de la protección de los derechos del consumidor y el bienestar social con la supervisión del Consejo de Estado. La combinación de supervisión de las actividades comerciales corporativas hace que la gobernanza de algoritmos sea una empresa de cooperación entre la Administración del Ciberespacio de China y otras instituciones.
Por otro lado, la gobernanza colaborativa algorítmica es la colaboración de tecnología, leyes y normas sociales. La capa inferior del algoritmo es la tecnología. Como dice el refrán, "Para desatar la campana, debes atar la campana". Para enfermedades persistentes como la caja negra de algoritmos y la discriminación de algoritmos, es necesario proporcionar una base científica desde una perspectiva técnica para el mecanismo endógeno de seguridad de los algoritmos, la evaluación de riesgos de seguridad de los algoritmos y el monitoreo de la seguridad del ciclo de vida de los algoritmos. En este sentido, las normas industriales, los códigos industriales y la autorregulación industrial son herramientas prioritarias para la gobernanza. Al mismo tiempo, el algoritmo no es neutral. Siempre tiene la postura de valor de los desarrolladores y usuarios del algoritmo. Con este fin, el primer artículo del borrador oficial establece claramente que toma como objetivo legislativo principal "promover los valores fundamentales socialistas", fomenta el uso de algoritmos para difundir energía positiva, se resiste a la información ilegal y mala, y no se le permite establecer establecer configuraciones que induzcan a los usuarios a volverse adictos, al consumo excesivo, etc. que violan la ética. Modelos algorítmicos éticos para promover mejores algoritmos.
Como el "primer" "Reglamento" del mundo que estandariza de manera integral la "recomendación de algoritmos", tiene una influencia de gran alcance. Sin embargo, este es sólo el “primer paso” en la gobernanza algorítmica en China. De cara al futuro, se están redactando una serie de documentos legales algorítmicos. Esperamos con interés la pronta formación del patrón de gobernanza colaborativa de algoritmos de China con mecanismos de gobernanza sólidos, sistemas regulatorios completos y una ecología de algoritmos estandarizados.
Yu Fang
Director del Centro de Investigación de Derecho de Internet de la Academia China de Tecnología de la Información y las Comunicaciones
Construcción científica de un sistema de gobernanza integral algorítmico
En los últimos años, están surgiendo rápidamente nuevas rondas de revolución científica y tecnológica y transformación industrial, y están en ascenso nuevas tecnologías, nuevas aplicaciones y nuevos formatos comerciales, como la inteligencia artificial, la computación en la nube y los big data. Como arquitectura subyacente de la inteligencia artificial, los algoritmos se utilizan ampliamente en los medios de comunicación, el comercio electrónico, la vida y los viajes y otras industrias. Han mejorado enormemente la eficiencia de la producción social y enriquecido las formas de vida pública, pero también han traído enormes consecuencias para los intereses públicos. , estabilidad social y seguridad nacional. El "Reglamento" capta con precisión la "diferencia horaria y el área en blanco", fortalece la gobernanza técnica de la recomendación de algoritmos en el campo de los servicios de información y construye científicamente un sistema de gobernanza integral de algoritmos.
En primer lugar, se aclara el sistema y mecanismo de gobernanza del algoritmo. La gobernanza algorítmica implica gestión de contenidos de información, servicios de telecomunicaciones, delitos cibernéticos, competencia en el mercado y muchos otros aspectos. En este sentido, el "Reglamento" estableció un patrón de gobernanza integral en el que el departamento de ciberseguridad e informatización se coordina en su conjunto, y los departamentos relevantes como telecomunicaciones, seguridad pública y supervisión del mercado son responsables de acuerdo con sus respectivas divisiones de responsabilidades, formando un mecanismo de gobernanza con cumplimiento legal, colaboración multipartidaria y participación multipartidaria. Al mismo tiempo, el "Reglamento" construye de manera innovadora un sistema de supervisión integrado multidimensional, como monitoreo de riesgos de seguridad de algoritmos, evaluación de seguridad de algoritmos, revisión de ética tecnológica, gestión de archivos de algoritmos y manejo de violaciones relacionadas con algoritmos.
En segundo lugar, se aclaran los intereses de protección relevantes de los servicios de recomendación de algoritmos. Para implementar requisitos legislativos como la "Ley de Protección de Información Personal" y la "Ley de Seguridad de Datos", el "Reglamento" responde a cuestiones como la discriminación algorítmica, la hegemonía algorítmica y las cajas negras algorítmicas, centrándose en salvaguardar los derechos e intereses de los usuarios de tres Aspectos: Primero, salvaguardar los derechos e intereses personales y estipular que los algoritmos sean transparentes y un mecanismo de selección independiente del usuario, lo que requiere que los principios básicos, propósitos e intenciones de los servicios de recomendación de algoritmos se divulguen de manera adecuada y estipulan la salida de recomendación de algoritmos y la etiqueta de usuario. descripción de gestión y algoritmo. El segundo es salvaguardar la igualdad de derechos e intereses de los usuarios y estipula que no se deben utilizar algoritmos para implementar un trato diferencial irrazonable y otros comportamientos ilegales en los precios de las transacciones y otras condiciones comerciales; el tercero es salvaguardar los derechos e intereses de grupos especiales; , incluida la adicción a Internet de los menores, los servicios de envejecimiento inteligente para personas mayores y la protección laboral de los derechos laborales, etc.
En tercer lugar, incorporar la supervisión de algoritmos en el sistema integral de gobernanza de la red.
En la actualidad, se estableció inicialmente el sistema legal cibernético de mi país basado en leyes como la Ley de Ciberseguridad, la Ley de Protección de Información Personal y la Ley de Seguridad de Datos, y gradualmente se ha ido formando un mecanismo de caja de herramientas legales relativamente completo. Con base en la legislación mencionada anteriormente, el Reglamento incorpora la supervisión de algoritmos en el sistema integral de gobernanza de la red, establece obligaciones legales como el archivo, inspección y evaluación de algoritmos, enfatiza la conciencia de la responsabilidad corporativa sobre los riesgos, exige la mejora de las organizaciones de gestión de la seguridad de los algoritmos y fortalece la prevención de riesgos. y control e investigación y gobernanza de peligros ocultos, y mejorar la capacidad y el nivel para responder a emergencias de seguridad de algoritmos, y construir científicamente un sistema de responsabilidad de plataforma de red.
En general, las regulaciones resaltan puntos clave y captan el esquema, implementando efectivamente los requisitos de gobernanza del Comité Central del Partido para consolidar las principales responsabilidades de las plataformas de red y aumentar la orientación de la opinión pública, y proporcionar una base sólida para el desarrollo sano y ordenado de los algoritmos.