（要闻）发展人工智能技术规矩不可少

本篇文章1810字，读完约5分钟

最近，两起与人工智能技术应用有关的事件引起了社会的广泛关注。第一个是在社交媒体上刷屏的视频编辑软件。该软件可以方便快捷地将视频中的人物变成用户上传的任何人的面孔。这种视频变脸其实早就可以用专业的视频编辑软件实现，但是需要用户有相应的技术，过程比较复杂。如今，人工智能技术简化并加速了这一复杂的技术过程，普通人可以轻松控制。第二张是学生课堂行为分析图。人工智能技术显示学生抬头、看手机、低头、做笔记、打瞌睡等行为。

变脸的应用有两点需要我们警惕:一是这项技术对社会信息传播秩序的影响。一般来说，视频对信息的保真度高于文字和图片。视频能够相对准确地传播信息，是社会信息传播系统的重要媒介符号。这种容易获得、简单的变脸应用，如果滥用，必然会导致沟通秩序的混乱。第二，这类应用软件采集人脸信息的合法性、安全性和可靠性值得怀疑。人脸、虹膜、指纹等生物特征信息是重要的个人隐私信息。这种信息比地址、密码等信息重要得多。地址密码可以修改，五官指纹等生物信息终身唯一，不可更改。披露的后果是严重的，怎么强调都不为过。如果这种信息泄露出去，是无法挽回的，技术开发者也无能为力，无论是技术开发者的主观滥用、黑客攻击还是无意泄露，都很难挽回。如今，刷脸已经广泛应用于金融支付、交通运输和公共安全等领域。面部生物信息的泄露对整个社会系统有着不可估量的影响。

人工智能对学生课堂行为进行定量分析的问题有:第一，该技术对学生行为分析的准确性、可靠性和可信度产生了怀疑。毕竟人工智能是一种算法。它现在能做的是捕捉个体的动作轨迹，但不具备准确判断和识别人类丰富复杂的社会行为及其发生场景的能力。也是一个动作，意义可能相差很大。技术可以检测到学生低头写字，但是写的是课堂内容还是无关信息，显然是高级人工智能无法判断的。人工智能可以准确识别学生是否值日，但对课堂上如此复杂丰富的人类行为场景进行绝对定量分析是不可靠的。其次，即使技术上可靠，以这样一种量化的方式管理学生课堂学习行为的道德合法性也是值得怀疑的。我们说教育是以人为本，因材施教，人不是机器，学生的行为不能彻底数字化管理，技术不能奴役人。

这两个事件反映了人工智能技术的快速发展和广泛应用。然而，似乎我们整个社会对这项技术的理解还没有加深，还没有准备好管理它带来的风险和挑战。

在认知方面，人工智能技术可以高效、有效地解决许多领域的问题，但需要避免所有问题都被人工智能解决。人工智能在解决机械、枯燥、数据密集、简单、重复的问题上是有效的，但缺乏人情味和人性化。所以，在需要体现人的精神、品味、想象力、人性的工作中，人一定要去做，而不是一味的追求技术方案。技术不是一切。

人工智能技术治理的关键是把握三个关键问题:算法、数据和计算能力。政府应该在算法和数据方面进行立法和监督。需要保证算法的开放性、透明性和监督性。在数据方面，加强对相关技术产品使用的数据类型和规模的监管。对于人脸特征信息、指纹、血液等人体生物特征信息，应该设定严格的标准。，应从采集、传输、存储等方面进行规范。，以确保与个人安全和国家安全相关的信息不被滥用，并且安全可控。数据应用程序的用户规模应该与企业的安全能力相匹配。此外，在涉及重要领域和广泛人群的技术应用中，需要建立人工智能使用的伦理和安全评估机制，类似于医学研究的伦理评估，以确保技术发展和合理使用的正确方向。建立第三方专业机构，对人工智能技术应用的安全性、可靠性和可控性进行监管。

企业要落实主体责任。在技术发展过程中，遵循人工智能发展的基本原则:公平、可靠与安全、隐私与安全、包容、透明与责任，保证可靠性、合法性和符合人类伦理。企业应意识到底线，不违反相关法律法规，遵循基本的社会价值观和公共道德，并承担相应的社会责任。在每个软件分发平台中，都要严格检查应用权限，确保用户下载应用的安全性和可靠性。

在用户方面，要提高公众的技术素养，培养正确理解和合理使用技术的能力。还需要考虑用户在人工智能技术应用场景中的选择，包括是否使用人工智能技术以及使用的程度。

作为一项革命性的新技术，没有人能准确预测人工智能未来的结果。在互联网的治理中，我们曾经奉行“先发展后治理”的理念。人工智能技术应用广泛，算法不透明，结果隐藏。其治理要与发展同步，要坚持“边治理边发展”的理念。最后，人工智能技术可以更好地服务于人类社会的发展。(作者是张建军，天津师范大学新闻与传播学院教师)