开云电竞「中国」官方网站

开云电竞首页

产品中心

智能终端处理器 智能云服务器 软件开发环境

行业新闻

开云电竞

平台概况 核心优势 核心团队 发展历程

联系我们

最新资讯

常见问题

开云电竞官方微信 官方微博
主页 > 最新资讯

开云电竞程雪军|AIGC浪潮下超级人工智能平台算法黑箱的治理路径

发布时间:2024-01-25 15:16浏览次数: 来源于:网络

  在人工智能信息等技术驱动下,以ChatGPT为代表的生成式人工智能(AIGC)快速发展,推动了超级人工智能平台的日益兴起。不同于其他大型与中小型人工智能平台,超级人工智能平台在用户规模、业务种类、经济体量与限制能力层面的要求更高,具有更加显著的数据、算法与算力优势。然而,算法具有内在的技术缺陷,导致超级人工智能平台的算法黑箱问题更为严重。通过采用规范研究方法,基于算法技术在超级人工智能平台的应用现状与算法黑箱问题,从公共利益理论解构算法黑箱的治理依据,促进超级人工智能平台的算法向善、纠正超级人工智能平台的市场失灵、维护社会公共利益与实质公正。通过采用比较研究方法,有选择地借鉴域外国家与地区算法黑箱治理经验,我国可以从算法伦理、透明与问责层面完善AIGC浪潮下超级人工智能平台算法黑箱的治理路径,刺破超级人工智能平台的算法黑箱。

  随着人工智能技术的快速发展并深嵌社会经济,预计到2030年人工智能核心产业规模将超1万亿元。其中,算法(Algorithm)技术被超级人工智能平台深度运用,大幅度提升了人工智能服务水平。作为新一代信息技术下的创新产物,算法技术具有双维作用:一是技术驱动型的算法技术可显著提升现代服务业的综合效率,促进超级人工智能平台利用算法技术实现数字化与智能化转型,从技术赋能向算法主导渐变。二是算法技术具有阻碍人工智能稳定发展的破坏性作用,当算法技术深嵌人工智能平台之后,其固有的内在技术缺陷可能衍生算法黑箱(如算法黑箱,Algorithm black box)与其他风险,甚至传导至全产业链的企业活动,威胁人工智能市场的稳健运行。

  从传统人工智能时代到生成式人工智能(AIGC)时代,以ChatGPT为代表的算法技术日益深化,算力与数据能力愈发强大,致使超级人工智能平台算法的先进度与复杂度日益提高,并促使算法黑箱的问题日益凸显,如何对超级人工智能平台算法黑箱采取有效治理?当前研究对算法黑箱治理做了初步探索,但是依然存在几个明显的不足:一是现有研究主要聚焦于算法技术本身的黑箱属性。有些学者认为算法不透明或无法解释是导致算法黑箱的重要原因,有些学者认为算法技术的复杂性、法律政策的匮乏、公开算法的动力不足等导致算法黑箱。但是,他们普遍没有把人工智能市场的特殊性纳入算法黑箱的治理考虑因素中,忽视了超级人工智能平台算法黑箱治理的特殊要求。二是现有研究对算法黑箱研究大都锁定在客户端(消费者)层面,忽略了机构端(平台企业)滥用算法技术并形成黑箱的本质。有些学者从社会监管理念探讨了算法的复杂性、不透明性、人为操纵等导致了算法黑箱;有些学者从算法透明策略扩散角度探索破除数字平台企业的算法黑箱治理困境,或者从智能投顾角度探索算法黑箱监管体系构建。然而,当前研究并非从超级人工智能平台切入,探索算法黑箱的治理路径。三是对算法黑箱的治理实践更多地聚焦于国内,缺乏对国内外算法黑箱治理的比较研究。应当对算法黑箱加强法治化治理,事实上我国个人信息保护法通过第24条明确规定自动化决策系统的个人信息保护问题;网络安全法、数据安全法为算法应用带来的数据安全等问题构建治理框架;《互联网信息服务算法推荐管理规定》首次系统性地从算法推荐角度提出治理规范,但普遍缺乏结合算法黑箱治理的国际经验与本土化实践的研究,探索我国超级人工智能平台算法黑箱的治理路径。

  综述,从AIGC浪潮下超级人工智能平台的算法技术本质与特征出发,本文深度剖析超级人工智能平台通过算法技术打造技术驱动型算法黑箱,打破现有治理规则并逃避法律责任追究。基于公共利益理论,本文对超级人工智能平台算法黑箱治理开展理论依据分析,有选择地借鉴域外算法黑箱的治理经验,从算法伦理、算法透明与算法问责层面,在AIGC浪潮下全方位提出构建我国超级人工智能平台算法黑箱的治理路径。

  在日益激烈的市场竞争环境下,市场主体纷纷通过算法技术提升自身经营业务。超级人工智能平台以信息技术(大数据与人工智能等)为导向,在为各类市场主体提供技术服务时留存了海量数据,为其技术驱动型算法黑箱的形成提供了物质基础。

  何为算法?各类学说众说纷纭。其一,从语义角度看,算法最早来源于古希腊语αριθμó(寓指“计算的方法”),我国西汉《周髀算经》便有对算法的记载。其二,从计算机学科角度看,算法以各种智能终端作为信息载体,以二进制作为计算数制,被广泛应用于匹配、加密等场景。算法没有形成统一定义,但算法通常被视为在有限且明确的操作步骤内,将形式规范的输入值(Inputs)转化为输出值(Outputs)的技术,旨在减少计算机运行速度与存储空间的技术限制,提升计算机完成任务的综合效率。超级人工智能平台的技术基础是算法技术,正因为算法技术的迭代创新,才促进了超级人工智能平台快速发展。但是,何为超级人工智能平台?参照国家市场监管总局2021年颁布的《互联网平台分类分级指南(征求意见稿)》,其按照用户规模、业务种类、经济体量与限制能力的标准将平台分类为超级平台、大型平台与中小平台。同理,人工智能平台可以依据分级标准而划分为三类平台:超级、大型与中小型人工智能平台(参见下表1)。其中,超级人工智能平台可以被界定为兼具超大用户规模(年活跃用户数不得低于5亿人)、超广业务种类(核心业务种类不得低于两类)、超高经济体量(市值或估值不得低于1000亿元)、超强限制能力(超强的限制商户接触消费者的能力)的人工智能平台。在AIGC的时代环境下,算法技术的发展程度更深,应用场景更加复杂,超级人工智能平台可以利用其资源禀赋(海量的数据基础、强大的算力支持、雄厚的算法技术等),运行事先设计好的、嵌入平台模型的代码程序,通过“输入—执行指令—输出”的固定运行模式,实现特定人工智能场景下的“帕累托最优”。

  开云电竞

  人工智能从弱人工智能(ANI)发展至如今的强人工智能(AGI),并有望在技术的驱动下继续深化至超人工智能(ASI)阶段。ANI阶段擅长于单方面的人工智能,表现为“计算智能”,该阶段主要是利用人工智能技术帮助平台进行智能计算与算法决策。AGI阶段是在各方面都能和人类比肩的人工智能,表现为“感知智能”,即具备类似人的视觉、听觉、触觉等对外界刺激做出反应的能力。ASI阶段是全面超越人类智力级别的人工智能,表现为“认知智能”。当前,基于深度学习等技术而形成的AIGC快速演变,促进超级人工智能平台实现“能理解、会思考、可判断”等功能,正朝着ASI阶段发展。回归至超级人工智能平台,它是一种典型的平台模式,符合双边市场理论,有效连接平台企业与消费者。在AIGC浪潮下,与土地、资本等其他生产要素不同,数据有着低成本、增值快等优势,当超级人工智能平台累积绝对数量的数据资源后,便具有了潜在主导人工智能活动和重新配置市场资源流动的平台化力量(算法权力)。此外,人工智能需要建立诸多内部变量及其变量之间的联系,提供输入数据集的算法与输出数据集的算法。为最佳地将输入转换为输出数据,算法需反复修改其内部变量及其权重,实现输入与输出数据之间的最佳关联。然而,人工智能算法运行具有不透明性与不可知性,算法通过对海量数据深度学习,驱动计算机自动编写代码程序并完成交易,体现了强大的自主机器学习能力,但由于其中间环节的具体执行过程往往难为外部所知悉,从而被称之为算法黑箱。

  在AIGC浪潮下,超级人工智能平台的算法程序变得更为复杂,且算法程序存在着黑箱操作,从而挑战了治理层面的可预测性与确定性。倘若以利用人工智能算法技术实施金融投资的量化投资平台为例,量化投资平台是人工智能算法技术与金融投资平台的深化融合,其通过输入海量的数据(包括但不限于宏观经济数据、金融交易数据、历史成交数据、行业发展数据等),利用算法技术对各类数据筛选、分析与处理,作出相应的量化交易决策,建立输入与输出模型。其中,交易成本模型可助力超级人工智能平台知悉交易换手率,风险模型可促进平台规避错误头寸,投资组合模型将目标组合传送给投资执行模型,并按要求执行策略。然而,量化投资平台的算法模型需要基于完善的数据与深度研究方可实现,由于当前数据资源与算法技术的有限性,量化投资平台对投资交易模型运行过程依然处于不可知的黑箱状态,而基于算法黑箱向消费者所推荐或决策的产品与服务,必然存在着相应的算法风险;消费者的反馈缺失或反馈不能,进一步加剧了算法黑箱问题。

  在AIGC浪潮下,随着算法技术的不断发展,超级人工智能平台利用海量数据与智能算法驱动传统业务创新发展,但超级人工智能平台过度的算法依赖和治理真空,为超级人工智能平台滥用算法黑箱从事违法违规活动,埋下了深深的隐患。对机构端来说,企业算法的技术创新为超级人工智能平台和企业机构规避现有监管治理提供了新的路径;对客户端来说,算法黑箱的不透明性加剧了长尾客群接受服务过程中的信息不对称风险。同时,算法黑箱还将掩盖风险在不同市场交易主体之间的转移和累积,可能威胁社会公共利益。

  关于公共利益理论,不同学科的观点有所不同:其一,在经济学领域,新福利经济学以帕累托最优为衡量标准,注重分析市场缺陷与政府干预的合理性,因为对市场失灵及其政府矫正措施研究而逐步形成公共利益理论。传统公共利益理论回答了代表公共利益的政府为什么监管以及如何监管的问题。其二,在政法领域,对公共利益的看法显著不同,包括作为治理目的的公共利益、作为政治对象象征的公共利益、作为对话过程的公共利益、作为国家公权力与个人私权利的公共利益。其中,法律层面的公共利益理论,要求对产业调节、市场纠正行为、消费者权益保护等关系调整时,需要以公共利益为本位,为国家公权力行使设置“权力栅栏”,为个人私权利的行使划定“权利边界”。总之,在AIGC浪潮下,超级人工智能平台利用算法创新衍生的算法黑箱,难以被完全遏制甚至消除,但监管治理机构不能持完全放任的态度,纵容其风险蔓延。为促进超级人工智能平台的长远发展,从公共利益理论出发采取适当治理尤为必要。

  随着AIGC浪潮的到来,超级人工智能平台纷纷选择拥抱人工智能,深度开发与应用先进的算法技术,即将海量的线下数据通过超级人工智能平台进行线上数字化记录,并赋能企业算法产品的推出与应用。尽管算法技术本身是中性的,但是研发与应用的超级人工智能平台却具有高度的主观能动性,通常会将众多的人工判断与主观价值观输入算法代码,比如算法歧视、算法非正义、算法非透明、算法欺诈、算法霸凌等问题,打开了“算法向恶”的“黑匣子”,以严重侵害社会公共利益的代价,换取平台私有利益的膨胀。

  开云电竞

  为了更好地引导超级人工智能平台的算法不作恶,美国2016年颁布《国家人工智能研究和发展战略计划》,明确提出通过AI设计提高公平性、透明度与可问责性,构建可被广泛接受的伦理架构(包括下属的多体系、多层次的判断,匹配算法规则的迅速回应、遵守文化规则等),指导AI系统进行推理与决策。新加坡于2019年通过《人工智能治理示范框架》,对人工智能发展提供指导性伦理原则。此外,新加坡金融管理局(SMA)针对算法应用于金融业并进行数据分析所引发的种种问题,提出了具体的FEAT原则(公平、道德、问责与透明),促进金融算法向善。由此可见,超级人工智能平台在深度应用算法技术时,具有内在的道德缺陷性,有必要让代表社会公共利益的政府机关介入,促进超级人工智能平台的算法向善。

  超级人工智能平台算法黑箱治理的基本出发点在于维护社会公共利益,但是社会经济中众多市场乱象(尤其是垄断、信息偏在、外部性等),形成了市场失灵。在AIGC时代浪潮下,以先进人工神经网络(ANN)与基因算法为代表的人工智能工具,普遍存在着算法黑箱的不透明性与技术不可知性。为纠正超级人工智能平台的市场失灵,有必要基于公共利益理论,通过政府干预治理和矫正市场缺陷,以平衡多方公共利益并维持市场稳定运行。

  首先,超级人工智能平台算法黑箱具有信息偏在性。与普通的人工智能平台相比,超级人工智能平台的算法技术更先进、算法数据更多维、算力资源更强大,其所形成的算法黑箱更加加剧了信息的不对称。超级人工智能平台算法黑箱造成的信息不对称介于创新者与用户之间,实际上是对传统信息不对称的边界进行了扩张。随着算法提供者与消费者之间的信息差越多,超级人工智能平台可以实施信息套利的空间越大,严重侵害了其他社会公共利益尤其是消费者合法权益。其次,超级人工智能平台算法黑箱具有较强的外部性。在AIGC浪潮下,超级人工智能平台利用算法黑箱的不透明性与不可知性,可以掩盖其与其他企业之间的数据交易行为,甚至这些数据交易行为可能是违法违规的,然后以算法黑箱为由规避相应的法律责任,从而对社会公共利益造成了较大的负外部性影响。最后,超级人工智能平台利用算法技术与黑箱属性,形成强大的市场垄断。算法技术造成机构端与客户端处于严重不平等的地位,导致大量缺乏技术驱动的中小企业难以在市场中发展壮大,加剧社会资源单向倾斜与社会多方利益矛盾的出现。算法固有的技术复杂性与技术差异性却为超级人工智能平台打开了市场垄断问题,那些具有数据、算法与算力优势的超级人工智能平台为了稳固其在传统行业时已形成的垄断地位,纷纷选择拥抱人工智能,将海量的线下数据通过超级人工智能平台进行线上数字化记录,并赋能企业算法产品的推出与应用,形成了算法合谋、算法市场支配地位、算法驱动型经营者集中等新兴垄断,对现行反垄断法规制构成了重大挑战。

  在AIGC浪潮下,人工智能技术在算法上主要表现为深度学习(Deep learning)的持续深化,而深度学习尤其是人工神经网络中的不可解释性与不透明性,导致超级人工智能平台存有严重的算法黑箱问题,严重损害社会公共利益与实质公正。

  首先,超级人工智能平台算法黑箱问题,使得该技术用于某些不可逆的算法决策领域,比如司法、医疗、金融等领域,便可能产生某些难以承受的现实后果,严重损害社会公共利益。公共利益理论对超级人工智能平台算法黑箱的治理诉求,旨在缓解市场经营者与消费者之间的利益冲突,通过对市场施以适当的干预措施,治理并矫正当前在资源分配与利益分享上存在偏颇的市场结构。

  其次,超级人工智能平台算法黑箱问题加剧了市场的偏向发展,绝大部分利益集中于少数市场经营者,而庞大的市场消费者却要分担绝大部分风险,严重损害实质公正。超级人工智能平台算法黑箱是个“技术黑匣子”,它加剧了算法设计者(超级人工智能平台)与消费者的信息不对称,加剧了人类与机器之间的算法不对称,严重阻碍了消费者的知情权。为促进超级人工智能平台的实质公正,美国对于算法黑箱的治理,高度重视算法透明、正义与问责。过滤气泡透明度法案(2019年)给予用户选择切换输入透明算法或不透明算法的权利;算法正义和在线年)对算法备案审查做出规定,强调在线平台的算法透明及其算法正义;从2019年算法问责法案到2022年算法责任法案的转变,突出对算法决策系统的过程公开与透明,尤其对于关键性算法决策,消费者可依据该法案质疑算法决策系统的数据源、算法程序、参数和指标与最终决策。欧盟强调算法可解释性、透明与分级治理。通用数据保护条例(GDPR)(2018年)对算法可解释性做出规定,重点强调用户的数据安全与权益保护,保障消费者权益救济;《人工智能法案(草案)》(2023年)指出加强算法公开透明,强调按照风险等级(不可接受风险、高风险、有限风险和低风险)分级监管,建立与GDPR发展相适应的人工智能技术统一规则。

  在AIGC浪潮下,如何刺破超级人工智能平台的算法黑箱,实施有效的算法治理?始终是个棘手的问题。基于公共利益理论,通过比较研究域外发达国家与地区的算法黑箱治理经验,结合我国本土化算法实践,从算法伦理、透明与问责的治理路径切入,有效刺破超级人工智能平台算法黑箱(参见下图1)。

  算法伦理规范是治理算法黑箱的基础,为了更好地破解超级人工智能平台算法黑箱的问题,有必要构建超级人工智能平台的算法伦理规范。第一,建立健全超级人工智能平台的算法伦理标准,将伦理准则规范融入超级人工智能平台的算法系统,实现超级人工智能平台全流程的算法伦理治理。如今,国际上对于超级人工智能平台伦理原则规范,充分借鉴了传统的生物伦理原则、行善原则、不伤害原则、自治原则、正义原则、人工智能的赋能原则(算法可解释原则),形成了五项核心原则:行善、不伤害、自治、正义与算法可解释性原则,各国普遍制定了相关的法律条例对核心原则具体化与场景化应用。中国构建了特色人工智能伦理规范,以“以人为本”思想作为规范总纲领,在保障技术稳健性、安全性和透明性的基础上,确保人工智能的可信可控。基于五项国际公认的原则,中国对其细化解读,并针对性颁布了法律政策文件(参见下表2)。第二,将伦理价值嵌入超级人工智能平台算法系统,形成机器代码伦理。从超级人工智能平台的算法伦理规范看,我国需要借鉴国际大型超级人工智能平台及其行业的算法伦理经验。其中,2017年,近千名人工智能和机器人领域的专家,联合签署了阿西洛马人工智能23条原则,包括5项科研问题、5项长期问题以及13项伦理价值,其中伦理价值包括安全、失灵透明性、责任、司法透明性、价值对接、人类价值、个人隐私、自由和隐私、利益共享、繁荣共享、人类控制、非颠覆性、AI军备竞赛。2018年,微软提出了人工智能研发的六项核心设计原则(公平、可靠与安全、隐私与保障、包容、透明、负责)。超级人工智能平台认识到审视与约束算法伦理的重要性与紧迫性,将算法伦理价值嵌入超级人工智能平台代码中,从计算源头有效规范算法黑箱。

  算法透明拥有一个庞大且完整的治理逻辑体系,需要积极推进实质性审查标准和算法备案制度,充分落实超级人工智能平台的算法告知义务,因为对超级人工智能平台算法产品的准入审查、参数报备与算法备案等,有助于从治理端视角打开算法黑箱;超级人工智能平台适时履行必要的告知义务,有助于从平台端视角打开算法黑箱。

  第一,积极推进算法审查制度。超级人工智能平台算法黑箱治理的首要工具在于事前阶段的准入审查,可以从形式上的程序性审查与内容上的实质性审查展开。形式上的程序性审查是指所有超级人工智能平台的算法产品在投入人工智能市场运营前,须经有关监管部门(如国家网信办、工信部、数据局等)的审查,对于通过审查的超级人工智能平台算法产品,有关部门可核发电子牌照,并在全国范围内建立牌照联网系统,以便后续阶段的查询、监管与问责。内容上的实质性审查要求监管部门着眼于超级人工智能平台算法产品的本质,即通过“事实发现”揭示未知的超级人工智能平台算法风险信息,以事先做出预判性的应对措施。

  第二,充分落实超级人工智能平台的算法告知义务。在人工智能业务的提供中,告知义务可理解为超级人工智能平台与用户订立合同时的产品说明行为,算法提供方(超级人工智能平台)应当履行必要的告知义务,此系平等主体之间的民商事法律关系。从外在表现形式看,可以将超级人工智能平台在提供企业算法服务时履行的告知义务概括为一种产品说明行为:一方面,超级人工智能平台应当在用户进入并使用平台算法产品前,告知消费者该人工智能产品是否内置自动化决策系统、是否对个人数据进行算法计算。如果用户同意进入并使用超级人工智能平台算法产品,那么这意味着用户授权算法系统获取其个人数据信息并将这些数据输入设定好的程序中进行运算。此时,超级人工智能平台需要进一步向用户说明其对算法运行过程与结果输出是否存在干预的可能性或特殊情况,以确保消费者拥有及时止损的退出空间。此外,超级人工智能平台还应当赋予用户相应的选择权,让用户可以在使用算法产品前选择切换内置或无内置算法的产品。另一方面,严格算法提供方告知义务的履行方式。个人信息保护法第17条规定个人信息处理者在处理个人信息前应以显著方式、清晰易懂的语言向个人告知规定事项。《算法管理规定》第16条明确指出算法提供者应以显著方式告知用户并以适当方式公示算法意图和运作机理等。超级人工智能平台领域的算法架构更为复杂,合理披露算法的基本逻辑与主要参数,并说明超级人工智能平台算法运行中可能出现的技术风险,既不会给超级人工智能平台造成额外的成本,也不会泄露商业秘密。因此,对于风险与敏感程度趋高的人工智能行业,法律规范所规定的告知义务也应更为严格,尤其是对于超级人工智能平台算法提供的决策型服务,需要针对特定客户作出相应的专属说明。

  超级人工智能平台算法黑箱的治理路径,都要回归到本源问题:我们是否可以起诉人工智能及其平台?哪个法律主体应当承担法律责任,并承担什么样的法律责任?当超级人工智能平台利用算法黑箱掩盖非法意图而触犯原则性的治理理念并有损其他法律权益时,应当找到相应的法律责任承担者。首先,完善法律责任主体。作为海量数据的集成者、算法技术提供者以及算法黑箱的直接影响者,超级人工智能平台有义务对算法黑箱的输出结果承担相应责任。当然,算法黑箱问题的问责对象并非超级人工智能平台单一主体,因为企业算法具有内在构造的复杂性(兼顾代码编写与平台模型),超级人工智能平台是企业算法的技术支持方(算法程序的设计者),而企业机构是企业算法的逻辑架构者,两者关涉超级人工智能平台算法黑箱的法律关系之中。其次,明确法律归责原则。鉴于超级人工智能平台领域的特殊属性,应当根据不同情况适用不同归责原则,尽力保障市场交易地位的消费者:如果超级人工智能平台主观故意利用算法黑箱造成了损失,应当承担过错责任并接受惩罚性赔偿;如果算法决策的相对人能够证明其损害是由算法提供者所造成,而超级人工智能平台不能证明对损害没有过错,应承担过错推定责任并赔偿损失;如果企业算法产品在运营中出现机器学习的自我偏差进而借由黑箱侵蚀消费者权益,超级人工智能平台虽然在主观上无过错,但作为算法开发及运营的主要负责主体,应当依法承担无过错的侵权责任,并对消费者给予适当范围内的经济补偿。再次,强化法律举证责任。面对网络消费领域的算法问题,中国消费者协会多次建议加强算法治理,强调举证责任倒置以强化超级人工智能平台的举证责任:对于过错责任和无过错责任,消费者只需提供其权益受损的初步证据;对侵权行为的进一步证明,则由超级人工智能平台按照有关法律与监管部门的要求提供相应资料以供审查。对过错推定责任适用举证责任倒置,即超级人工智能平台不能证明没有过错,应承担举证不能的不利后果。超级人工智能平台若认为其依法提交的证明材料涉及商业秘密,向有关主管部门说明后,有关部门负有保密义务。最后,履行法律责任的后果。如果超级人工智能平台利用算法黑箱侵犯消费者权益的行为,那么应当承担相应的民事责任,如经济补偿或赔偿等。如果超级人工智能平台滥用算法、数据与算力等资源优势,通过算法黑箱方式实施市场垄断并有意规避法律规制,那么应当按照反垄断法规定承担相应的经济法责任。如果超级人工智能平台算法黑箱违反相关的市场治理要求,行政机关可以依法对超级人工智能平台追究行政责任,包括市场禁入等资格罚。倘若超级人工智能平台算法黑箱引发了系统性风险,严重危害国家安全或社会公共利益,构成刑事犯罪的,那么依法应当追究超级人工智能平台的刑事责任。

  如今,人工智能算法技术的长足进步,驱动传统人工智能进入生成式人工智能(AIGC)阶段,从聊天大模型(ChatGPT)到各种通用大模型(GPT),无不彰显了现代算法的技术力量。市场信息化与智能化的内在需求推动AIGC的深度嵌入,并促使各种算法驱动的超级人工智能平台快速兴起。然而,人工智能算法技术并非一成不变的创新产物,而是非此即彼的技术要素,具有内在的技术不完善、信息不对称与主观偏向等因素,导致超级人工智能平台算法黑箱问题频发,治理算法迫在眉睫。当超级人工智能平台按照既定的算法程序,将海量数据输入算法黑箱,往往得出难以理解的算法结果。如何解决超级人工智能平台算法黑箱内部的公平正义问题?成为一个兼具算法治理与行为治理的难题。在AIGC浪潮下,为纠正市场失灵的内在缺陷,保护社会公共利益与实质公正,有必要从公共利益理论而不是私人利益最大化理论出发,透视超级人工智能平台算法黑箱的治理依据。通过结合域外(欧盟、美国、新加坡)算法黑箱的治理经验与本土化算法治理实践,我国可以从算法伦理、算法透明与算法问责层面构建超级人工智能平台算法黑箱的治理路径,从而有效地刺破超级人工智能平台的算法黑箱:通过构建超级人工智能平台的算法伦理规范,有效规范算法黑箱;通过完善超级人工智能平台的算法透明体系,全面揭开算法黑箱;通过算法问责机制明确平台法律责任,问责算法黑箱。

  本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。

下一篇:开云电竞通用人工智能“奇点”来临 大模型从新品竞技跃向产业赋能
上一篇:开云电竞人工智能手机市场份额到2027年预计达45%

咨询我们

输入您的疑问及需求发送邮箱给我们