//
前言
近年来，人工智能技术得到了广泛应用和发展，作为自然语言处理技术的代表之一，其应用范围越来越广，如聊天机器人、智能客服等。然而，随着的普及和应用，其潜在风险也逐渐被人们所关注。本文将分析存在的风险，探讨实施国家安全和网络信息安全审查的必要性，并提出相应的实施方案。
一、的风险问题逐渐被关注
是一款由公司开发的聊天机器人，能够与用户进行自然语言交流，提供各种服务和娱乐。然而，近期该平台却陷入了数据泄露和隐私侵犯的风波，引发了意大利政府和社会的强烈反应。
据报道，3月20日，多名用户发现自己的历史对话中出现了他人的聊天记录，甚至包括一些敏感信息。3月25日，承认该平台存在一个漏洞，导致部分用户能够看到其他用户的聊天标题和付款信息。表示已经修复了该漏洞，并暂时下线了服务。
然而，这一事件并没有平息意大利个人数据保护局（）的愤怒。3月31日，宣布，即日起禁止使用，并限制处理意大利用户信息。认为：没有检查用户的年龄，没有告知用户将收集和处理其信息，没有获得用户的同意，没有提供数据保护的措施，违反了欧盟的通用数据保护条例（GDPR）。因此，要求在20天内通过其在欧洲的代表向其通报采取的措施，否则将面临高达2000万欧元或公司全球年营业额4%的罚款。此外，意大利政府还对可能带来的社会影响表示担忧。例如，可能被用于传播虚假信息、诱导未成年人、干扰选举等。因此，意大利成为了第一个对聊天机器人采取行动的西方国家。
是一个由开发的人工智能聊天机器人，它基于的GPT-3.5和GPT-4系列的大型语言模型，并使用了监督学习和强化学习的方法进行了微调。于2022年11月30日以原型的形式发布，它以其在多个知识领域的详细回答和流畅表达而受到关注。许多人认为，是人工智能领域的一项重大突破，也是通用人工智能（AGI）的一个重要步骤。然而，也面临着诸多挑战和风险。除了数据安全和隐私问题外，还可能存在偏见、歧视、误导、操纵等问题。例如，有研究发现，在处理一些敏感话题时会表现出负面或不恰当的态度。有些人担心，可能会被滥用或误用，对个人、社会和国家造成危害。
二、使用存在的风险
作为一款人工智能语言模型，可以帮助企业和组织处理自然语言文本，如自动回复、文本分类、智能推荐等。然而，使用也会带来一些潜在的风险和挑战，特别是在国家数据合规和数据安全方面：
1.违反数据保护和隐私法规
中国有严格的数据保护和隐私法规，如《中华人民共和国个人信息保护法》、《网络安全法》等。在使用时，企业和组织需要遵守这些法规，并确保用户数据的隐私和保护。
然而，在过去几年中，一些企业在使用类似的程序时，违反了中国的数据保护和隐私法规。例如，2021年1月，浙江杭州市互联网信息办公室公布了一份整改通报，要求阿里巴巴、京东等企业整改数据保护问题，其中就包括使用聊天机器人收集用户个人信息的问题。
2.引入恶意代码和安全漏洞
是一种基于深度学习的模型，其算法和代码可能会存在漏洞和安全问题。如果这些问题未及时发现和修复，可能会被黑客利用，导致数据泄露和滥用。此外，恶意代码和安全漏洞也可能会被嵌入到的训练数据中，从而影响模型的输出结果。
3.误导和不准确的输出结果
是一种基于深度学习的模型，其输出结果可能会存在误导和不准确的情况。这进一步说明，这种误导和不准确可能会对企业、组织和个人带来负面的影响，例如导致错误的决策、误导用户、造成损失等。
4.为犯罪活动提供便利
首先，作为一种语言模型，可以生成具有合理性和连贯性的文本，包括虚假信息和误导性信息。这意味着，一些不法分子可以利用生成虚假证明文件、假新闻、虚假广告等，从而欺骗和误导人们，甚至从中谋取不正当的利益。这样的行为会对社会造成严重的负面影响，并且也会干扰公共秩序和正常的社会运行。
其次，可以被用于进行网络欺诈和网络攻击。例如，黑客可以利用生成虚假电子邮件或社交媒体信息，诱骗人们提供个人敏感信息，从而实施网络钓鱼、网络欺诈等违法犯罪行为。此外，也可以被用于生成恶意代码和网络病毒，从而攻击计算机系统和网络设备，进一步威胁国家安全和公共安全。
最后，由于可以生成高质量的伪造文本，这也给一些非法犯罪行为提供了便利。例如，一些不法分子可以利用生成虚假的银行账单、信用卡账单等，从而实施金融诈骗和经济犯罪行为。这种行为不仅会给人们的财产安全造成威胁，还会破坏经济秩序和社会稳定。
三、实施国家安全和网络
信息安全审查的必要性
因使用存在的风险，为保护国家安全、防范各类恶意攻击行为，加强安全防护，提高系统的安全性和稳定性，我国具有较高必要性对实施国家安全和网络信息安全审查，具体表现为：
1.保护国家安全
的语言模型可以生成大量的语言文本，包括中文、英文、日文等多种语言，这些文本可能包含一些涉及到国家安全的信息，如国家机密、军事机密、经济机密等。如果这些信息被泄露、篡改或滥用，可能会对国家安全造成严重的影响和损失。因此，对进行国家安全审查可以有效地保护国家安全，防范和打击恐怖主义、分裂主义、渗透和破坏等行为。
2.防范网络攻击和黑客入侵
的服务器和网络环境面临着各种各样的网络攻击和黑客入侵的风险，如DDoS攻击、SQL注入攻击、文件包含漏洞等。这些攻击和入侵可能导致服务器宕机、数据泄露、系统崩溃等严重后果。因此，对实施网络信息安全审查可以加强安全防护，提高系统的安全性和稳定性，防止不法分子利用实施网络攻击和黑客入侵。
3.保护个人隐私
在处理自然语言文本时，可能会涉及到一些个人隐私信息，如身份证号码、电话号码、邮箱地址等。这些信息如果被泄露、滥用或窃取，可能会给个人带来财产和名誉损失，甚至导致身份盗用、诈骗等犯罪行为。因此，对实施隐私保护和个人信息安全审查是必要的，可以保护个人隐私和权益。
四、如何实施国家安全和
网络信息安全审查
（一） 在合理性原则框架下实施
1.合法
在中国境内的使用和运营必须符合相关法律法规的规定，如《中华人民共和国网络安全法》等。这些法律法规对于网络信息安全和国家安全都有明确的规定和要求，对进行国家安全和网络信息安全审查符合法律法规的要求和要求。
2.透明公开
对实施国家安全和网络信息安全审查应该具有透明性和公开性，遵循信息公开和知情同意原则。对于用户生成的文本数据，应该在明确知情同意的前提下进行收集、使用和保存，并对数据的收集、存储、使用和共享进行严格的安全保护措施。对于的审查结果和数据处理过程应该及时公开，保障公众的知情权和监督权，防止信息滥用和滥用职权等行为。
3.科学合理
的国家安全和网络信息安全审查应该基于科学、合理和有效的技术手段和方法，不得采用过度和不必要的审查措施，防止误伤和滥用权力等不良后果。对于的安全漏洞和风险应该进行科学评估和预警，采取适当的防范和修复措施，确保系统的安全性和可靠性。
4.以法定范围
的国家安全和网络信息安全审查应该依法定范围进行，遵循合法、必要和最小化原则。对于生成的文本数据，应该根据法律法规的规定和需求进行收集、使用和保存，严格遵守数据安全和隐私保护的规定。对于的技术监管和审查，应该按照法定程序和规定进行，不得超越法律规定的范围和权力，确保法律权利的平等和公正。
5.利益平衡
的国家安全和网络信息安全审查应该考虑到各方的利益和需求，保障公众和用户的权益和利益。在保障国家安全和网络信息安全的前提下，应该尊重个人隐私和自由，避免过度干预和限制个人自由表达和信息传播的权利。同时，应该促进科技创新和应用，推动经济和社会发展，实现信息安全和发展的平衡和统一。
（二） 实施落地科学的监管机制
1.建立法律法规
在实施审查之前，中国政府应该制定相关的法律法规，明确在国家安全和网络信息安全方面的审查要求和标准。这些法律法规应该明确的使用范围、审查机制、审查标准、审查程序等，以确保的安全性和合规性。
例如，中国可以参考欧洲联盟的通用数据保护条例（GDPR），制定《数据安全法》、《网络安全法》等法律法规，以确保在数据保护和隐私保护方面的合规性。
2.建立审查机制
中国政府应该建立的审查机制，包括审查委员会、审查流程、审查标准等。审查委员会应该由专业人士组成，包括网络安全专家、数据保护专家、法律专家等，负责的安全审查和合规审查。审查流程应该明确，包括审查前、审查中、审查后的程序和步骤。审查标准应该明确，包括数据保护、隐私保护、安全性等方面的要求。
3.审查供应商
中国政府应该审查供应商，包括其安全管理制度、数据保护措施、隐私保护政策等方面。只有通过审查的供应商才能提供服务，并且需要签署相关的合同和协议，保证服务的安全性和合规性。此外，中国政府还可以建立供应商名录，方便企业和组织选择合格的供应商。
4.监管使用
中国政府应该加强对使用的监管和管理。企业和组织在使用之前需要向相关部门申请许可，并且需要提交相关的审查报告和材料。此外，中国政府还可以建立使用管理平台，对的使用情况进行监管和管理，包括的使用目的、使用范围、使用时间、使用数据等。
5.加强安全防护
中国政府应该加强对的安全防护，包括网络安全、数据安全、隐私保护等方面。网络安全方面，中国政府可以加强对服务器的安全防护，包括防火墙、入侵检测、安全加密等措施。数据安全方面，中国政府应该要求供应商对数据进行加密存储和传输，并建立安全备份和恢复机制，以应对可能出现的安全事故。隐私保护方面，中国政府可以要求供应商明确用户数据的使用范围和目的，并建立相应的隐私保护政策和措施，遵守相关的数据保护法律法规，保护用户的隐私和个人信息安全。
综上所述，要对实施国家安全和网络信息安全审查，中国政府需要建立法律法规、审查机制、审查供应商、监管使用和加强安全防护等方面的措施。总之，对于的国家安全和网络信息安全审查，需要遵循科学合理、依法定范围、利益平衡、透明公开等原则，采用科学有效的技术手段和方法，确保系统的安全性和可靠性，保障公众和用户的权益和利益。对于未来，在中国的应用和发展还需要更多的探索和创新，继续推动科技创新和应用，促进经济和社会发展，实现信息安全和发展的统一。
结语
从使用存在的风险、实施国家安全和网络信息安全审查的必要性、以及如何实施国家安全和网络信息安全审查三个方面，我们探讨了在实际应用中可能带来的问题，并提出了相应的解决方案。虽然的出现让人们对于人工智能技术充满了期待，但是我们也不能忽视其可能带来的风险和问题。因此，我们必须采取相应的措施来解决这些问题，以确保技术的合法、安全、可靠的应用。
在实施国家安全和网络信息安全审查方面，我们提出了在合理性原则框架下实施和实施落地科学的监管机制这两个方面。其中，在合理性原则框架下实施，要求审查机制必须符合合法、透明公开、科学合理、依法定范围、利益平衡等原则，旨在保护个人隐私、防范网络攻击和黑客入侵、保护国家安全等。在实施落地科学的监管机制方面，我们要建立完善的法律法规、建立审查机制、审查供应商、监管使用、加强安全防护等。
因此，我们认为，只有在确保技术的安全、可靠、合法的前提下，才能更好地促进人工智能技术的发展。技术虽然具有很大的潜力，但在使用它的过程中必须遵守法律法规，保护隐私，确保安全。只有这样，我们才能更好地应用技术，推动人工智能技术在各个领域的应用，促进经济和社会的发展。
E N D
作者介绍
– 张颖涛 –
广东启源律师事务所
（高云律师团队）律师助理
2021年开始从事法律职业，毕业后曾就职于知名律师事务所，现专注于知识产权、企业数据合规等新型法律业务。
团队介绍
高云律师团队主要从事企业法律顾问、数据合规管理、合同管理、不良资产、并购重组等业务，先后服务过多个政府部门、金融机构、资产公司、上市公司、集团企业等客户，以反应迅速、专业严谨和思维贴合客户商业需求的特点，受到客户的一致好评。
本团队自2012年开始为众多客户提供数据合规服务，服务内容包括企业数据合规尽调、个人信息和敏感个人信息采集流程指引、App安全合规管理体系建立、数据储存和安全管理办法制定、数据合规培训、数据商业化使用合规审查、数据跨境传输合规审查、数据影响评估等。
本团队研发的《涉外企业数据合规一站式法律服务解决方案》荣获“2022广州法律服务产品大赛”金牌推荐产品！
