大语言模型在给国家和社会带来便利和效益的同时，也带来了令人不安的风险甚至威胁。近日，《读+》专访上海交通大学文科资深教授、上海交通大学中国法与社会研究院院长季卫东。他表示，对于人工智能的监管，“应该采取一种兼顾风险管理和科技研发的平衡政策”。
“大语言模型怪兽”纷纷崭露头角，并且有可能因为在对数据进行深度学习中放弃给定的特征设计，转而自我设置次级目标而脱离人类控制，进而引起治理方面的严重问题。为此，当然不能对人工智能研发采取放任自流的态度。但是，过于严苛的监管又会妨碍科技和相关产业经济的发展。“在这里，我认为应该采取一种兼顾风险管理和科技研发的平衡政策。”
为了防止上述各种风险演化成不可逆的灾害，国内外已经有很多专家和业界领袖提出了暂停大模型开发、实现价值对齐、加强AI监管等各种对策和建议。确保AI在国际层面的价值一致性，可能是21世纪最重大的挑战之一。（长江日报记者马梦娅 实习生韩千雪）开云电竞 (开云)开云电竞 (开云)
开云电竞官方微信
官方微博
