国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局发布《生成式人工智能服务管理暂行办法》(下称《办法》),自2023年8月15日起施行。办法要求应当在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。
点评:七部门联合发布的《办法》是面对生成式人工智能发展的重要政策动向,对我国生成式人工智能发展具有重要影响。生成式人工智能已经显示出对生产力提升的巨大潜力,但也可能给社会带来伦理、法律和技术偏见等问题。《办法》要求采取有效措施防止产生包括性别在内的各种歧视,显示了政策制定者对人工智能可能带来的广泛社会影响的全面考虑,也显示了对于防止性别歧视的重视。《办法》强调人工智能训练中避免使用带有性别偏见的数据集,算法设计中要加入对性别歧视的检测和纠正机制,在广告、推荐系统和其他内容生成领域,不因性别而歧视用户,确保信息和产品被平等对待。这些措施有助于促进性别平等,减少因技术进步带来的性别歧视,为社会发展创造更加公平的环境。
(中国新就业形态研究中心主任,首都经济贸易大学副教授张成刚)