技术伦理审查提速 AI“反倒变坏”防线严控

发布时间：2023-04-06 08:45:33 所属栏目：动态来源：

导读：ChatGPT与GPT已走进大众的视线，我国众多的互联网大厂也正火速切入这一赛道。不可否认，GPT等人工智能应用极大提升了生产力、便利了大众的生活，但其也是一柄双刃剑，由此产生的科技伦理问题也引发了全球的关注与担忧

ChatGPT与GPT已走进大众的视线，我国众多的互联网大厂也正火速切入这一赛道。不可否认，GPT等人工智能应用极大提升了生产力、便利了大众的生活，但其也是一柄双刃剑，由此产生的科技伦理问题也引发了全球的关注与担忧。

令人欣慰的是，我国已开始筹谋提前化解人工智能的科技伦理风险。日前，科技部公开征求对《科技伦理审查办法（试行）》（以下简称《办法》）的意见，其中明确提出，从事人工智能的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会，部分算法模型、自动化决策系统需要专家复核。分析认为，虽然伦理审查短期内会影响产品商业化的效率，但从长期来看，有助于人工智能行业可持续的健康发展，让我国在这一领域形成可持续的全球竞争力。

此外，在《办法》的附录中还提到了“需要开展专家复核的科技活动清单”，其中包括：具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发；面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。

“ChatGPT与GPT等应用越来越广，也与我们的生活越来越近，我们在科技伦理方面也遇到了前所未有的挑战。”浙江理工大学数据法治研究院副院长郭兵认为，《办法》比较大的亮点在于，进一步对更广泛的科技伦理审查问题做了规定，并引入了专家复核制度。

“但《个人信息保护法》并未要求企业邀请何种外部人员，而科技领域、AI领域专业性较强，《办法》通过法定的专家参与机制的设计，能够更好地保障人工智能伦理审查的效果。”郭兵进一步解释说。

人工智能应用技术会带来哪些科技伦理问题？在中国数实融合50人论坛智库专家、商务部研究院电子商务研究所副研究员洪勇看来，人工智能可能面临对自然资源的消耗、产品更新换代产生的各种垃圾等环境伦理问题，隐私泄露、歧视、失业、安全风险等个人伦理问题，以及推理能力、可解释性等技术伦理问题。

正如郭兵说述，虽然ChatGPT与GPT诞生不久，但已有值得引起关注的案例。

在此次事件中，Chai在法律层面将承担怎样的法律责任、又该如何追责？“在这方面目前仍备受争议。”河南泽槿律师事务所主任付建认为，人工智能技术的程序是开发人员编写的，但决策是由机器做出的，如果出现重大失误造成损害后果，责任谁来承担仍存在争议，同时，人工智能能否对自己做出的决策进行道德判断也是一个值得商讨的问题。

事实上，人工智能存在的伦理问题风险也引起了联合国教科文组织的注意。近日，联合国教科文组织发表声明，呼吁各国政府尽快实施该组织通过的首份人工智能伦理问题全球性协议——《人工智能伦理问题建议书》。

“从社会和经济层面来看，企业一般利益至上，如果各家科技巨头通过研发的大型语言模型，利用‘算法暗箱’，谋一时之利，就有可能有损整个社会利益和国家利益，给国家安全带来风险。”郭兵补充说。

“对人工智能可能带来的问题提前加以防范，进行伦理审查会对行业产生重大影响。此前更强调数字技术、人工智能技术在效率上带来的变革，而忽略技术对社会、对个人产生的伦理问题。随着科技伦理越来越得到重视，将会对人工智能在医疗、教育、无人驾驶等领域的应用产生影响。”北京市社科院研究员、中国人民大学智能社会治理研究中心研究员王鹏对北京商报记者表示。

郭兵就《办法》给人工智能行业带来变化进行了具体化的解读，“随着人工智能伦理审查越来越严，会增加企业的成本，尤其引入了专家复审要求后，会影响产品或技术市场化的效率，研发出来的某个算法模型不能立马投入商业化的应用。”不能立马投入商业化的应用。”而是需要进行长期的验证。所以，我们认为这个时候需要一个平台，帮助大家更好地把这些数据整合起来。

但郭兵认为，另一方面，审查的严格将有利于人工智能产业的可持续发展。“如果企业研发的产品投入市场化之后产生伦理方面的巨大争议，面临巨大法律风险，被直接叫停，带来的不利影响会比人工智能伦理审查带来的影响要更大，从长期来看，加强伦理审查有利于人工智能企业的可持续健康发展。”

（编辑：驾考网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!