2024年生成式人工智能-海外合规白皮书（东南亚篇）.pdf

生成式人工智能-海外合规白皮书（东南亚篇）垦丁律师事务所垦丁（新加坡）、WEEE Consulting、Boosterhub 2024年8月撰写人简介 免责声明序言一、新加坡 二）新加坡生成式人工智能合规核心问题1.基础模型和AI产品关系及定性2.大模型预训练使用公开数据合规 3.数据本地化和数据跨境 4.开发者安全责任 5.内容安全6.生成物知识产权可版性 7.大模型透明度8.用户权利保护一）新加坡生成式人工智能产业及监管1.生成式人工智能在新加坡的发展现状和地位 2.新加坡生成式人工智能监管框架12271010121519252830321 目录二、越南 一）越南生成式人工智能产业及监管1.生成式人工智能在越南的发展现状和地位2.越南生成式人工智能监管框架二）越南生成式人工智能合规核心问题1.基础模型和AI产品关系及定性2.大模型预训练使用公开数据合规3.数据本地化和跨境数据 4.开发者安全责任5.内容安全6.生成物知识产权可版性7.大模型透明度8.用户权利保护三、泰国 二）泰国生成式人工智能合规核心问题1.基础模型和AI产品关系及定性2.大模型预训练使用公开数据合规3.数据本地化和跨境数据4.开发者安全责任5.内容安全6.生成物知识产权可版性7.大模型透明度8.用户权利保护一）泰国生成式人工智能产业及监管 1.生成式人工智能在泰国的发展现状和地位2.泰国生成式人工智能监管框架2 目录3536363941414345485052535355625656606262656869707072四、马来西亚一）马来西亚生成式人工智能产业及监管1.生成式人工智能在马来西亚的发展现状和地位2.马来西亚生成式人工智能监管框架二）马来西亚生成式人工智能合规核心问题1.基础模型和AI产品关系及定性2.大模型预训练使用公开数据合规3.数据本地化和跨境数据4.开发者安全责任5.内容安全6.生成物知识产权可版性7.大模型透明度8.用户权利保护五、印度尼西亚一）印度尼西亚生成式人工智能产业及监管1.生成式人工智能在印度尼西亚的发展现状和地位2.印度尼西亚生成式人工智能监管框架二）印度尼西亚生成式人工智能合规核心问题1.基础模型和AI产品关系及定性2.大模型预训练使用公开数据合规3.数据本地化和跨境数据4.开发者安全责任 5.内容安全6.生成物知识产权可版性7.大模型透明度8.用户权利保护3 目录7978808383858586738795888893959696989810010010079747476六、菲律宾联系我们一）菲律宾生成式人工智能产业及监管1.生成式人工智能在菲律宾的发展现状和地位2.菲律宾生成式人工智能监管框架二）菲律宾生成式人工智能合规核心问题1.基础模型和AI产品关系及定性2.大模型预训练使用公开数据合规3.数据本地化和跨境数据4.开发者安全责任5.内容安全6.生成物知识产权可版性7.大模型透明度8.用户权利保护4 目录102107114103103105107107108109110111111112撰写人简介垦丁律师事务所 垦丁律师事务所是由一群在网络法实务领域有丰富经验的律师，于2017年7月共同创设，是一家完全专注于提供“网络法”法律服务的专业律师机构。垦丁律师正在服务或曾经服务的客户包括：腾讯、小米、蚂蚁国际、天猫人工智能、百度、360、星际魅族、虎牙、唯品会、焦点科技等综合和细分市场头部互联网企业。也包括强生、耐克、松下、特斯拉（中国）、smart、上汽大众、OPPO、日立（中国）、传音控股、鹏成新能源等智能制造和新兴产品市场。垦丁所的业务范围涉及平台治理、产品合规、投资并购、数据合规、知识产权、跨境争议解决等等，行业领域涉及综合网络平台、AIGC、NFT/区块链、数字娱乐、智能终端等。未一咨询专注于帮助出海企业解决全球化拓展中的跨文化挑战。创立于2022年，未一咨询提供海外市场调研、品牌建设、市场营销、公共关系、跨文化管理培训等专业服务。创始团队均曾供职于大型跨国科技企业，拥有深耕东南亚、日韩、欧美、大中华等多个市场的经验，深入了解各国文化和市场环境、监管政策、行业动态，服务过从大型跨国企业，到初创公司体量不等的各类客户，为客户量身定制高效的品牌营销策略、提供从高管到核心员工的跨文化培训，帮助更多具有国际化视野和雄心、有潜力领跑未来的企业在复杂多变的环境中找准锚点，扬帆远航，取得更大成功。?Booster HubBooster Hub全速引擎是以全球化服贸为产业核心的创新商业化园区，是中国杭州市综试区的“全球跨境电商DTC品牌创新中心”。Booster Hub全速引擎专注于引进、孵化、服务在全球化市场方向上具备创新和产业优势的企业，围绕全球化的商流、物流、资金流、信息流四个核心服务方向，打造大中小全链路产业生态。除此之外，在垂直市场化产业基金配套、行业媒体矩阵服务、跨境服务商体系对接等方面给予支持。起草人：垦丁新加坡办公室 （按拼音排序）陈梅瑜 何天伦 胡烨 黄帅 黄钰涯 姜正浩 麻策 牟若桃 束司斌 夏律 朱骏超 朱莎 牟若桃顾问：姚雪 罗威 1 撰写人简介和市场环境、监管政策、行业动态，服务过从大型跨国企业，到初创公司体量不等的各类客户，为客户量身定制高效的品牌营销策略、提供从高管到核心员工的跨文化培训，帮助更多具有国际化视野和雄心、有潜力领跑未来的企业在复杂多变的环境中找准锚点，扬帆远航，取得更大成功。Booster HubBooster Hub全速引擎是以全球化服贸为产业核心的创新商业化园区，是中国杭州市综试区的“全球跨境电商DTC品牌创新中心”。Booster Hub全速引擎专注于引进、孵化、服务在全球化市场方向上具备创新和产业优势的企业，围绕全球化的商流、物流、资金流、信息流四个核心服务方向，打造大中小全链路产业生态。除此之外，在垂直市场化产业基金配套、行业媒体矩阵服务、跨境服务商体系对接等方面给予支持。起草人：垦丁新加坡办公室（按拼音排序）陈梅瑜 何天伦 胡烨 黄帅 黄钰涯 姜正浩 麻策 牟若桃 束司斌 夏律 朱骏超 朱莎 顾问：姚雪 罗威 2 撰写人简介免责声明本文章仅代表作者个人观点，仅为提供一般性信息之目的，不应用于替代专业咨询意见。尽管本文章中所包含的信息都是我们于发布之时从我们认为可靠的渠道获得，但鉴于人工智能相关的法律法规变化迅速，司法实践也会依个案实际情况处理，因此不对本文章内容、观点以及建议的准确性、可靠性、时效性以及完整性作任何明确或隐含的保证。本文章仅供企业参考使用，企业切勿依赖，任何仅依照本文全部或者部分内容而做出的决定以及因此造成的后果由行为人自行负责，本文的机构和作者明示不予承担任何责任。在相关法律法规进行变更或更新时亦不会另行通知。3 免责声明序言随着生成式人工智能（Generative AI）技术的迅猛发展，其应用范围已经深入到社会生活的各个角落，从电商、制造、金融服务到教育和娱乐，无一不受到这一前沿技术的影响。生成式人工智能不仅带来了前所未有的创新和效率提升，同时也引发了诸多伦理、政治和经济方面的讨论和挑战。在这一背景下，法律合规的重要性尤为突出，特别是在不同国家和地区，其合规要求各有特色，需要我们深入了解并严格遵守。东南亚作为全球经济快速发展的区域之一，人工智能行业也展现出蓬勃的发展势头。东南亚各国在政治、文化、法律制度等方面具有鲜明的区域特性，因此，在生成式人工智能的应用和发展过程中，合规问题显得尤为重要。不同国家的法律框架、AI合规相关的法规、伦理标准以及政府监管政策等方面都需要特别关注和遵守，以确保技术创新与法律规范的有机结合。东南亚地区经济快速发展，各国在科技创新方面也展现出巨大的潜力。然而，由于各国在政治、经济和文化上的差异，生成式AI的法律监管和合规要求也各不相同。这使得东南亚的AI行业在合规方面面临独特的挑战和要求。通过对东南亚各国生成式AI产业及监管框架的深入分析，本白皮书旨在全面解析东南亚各国在生成式人工智能领域的法律合规要求，帮助企业4 序言和从业者更好地理解和应对这一复杂多变的法律环境。我们将从各国具体的法律法规出发，结合实际案例和应用场景，深入探讨东南亚AI行业的合规特点和应对策略。希望通过本白皮书的研究和分享，能够为广大AI从业者提供有价值的指导和参考，推动生成式人工智能技术在东南亚地区的健康、可持续发展。5 序言第一章、新加坡 二）新加坡生成式人工智能合规核心问题1.基础模型和AI产品关系及定性2.大模型预训练使用公开数据合规 3.数据本地化和数据跨境 4.开发者安全责任 5.内容安全6.生成物知识产权可版性 7.大模型透明度8.用户权利保护一）新加坡生成式人工智能产业及监管1.生成式人工智能在新加坡的发展现状和地位 2.新加坡生成式人工智能监管框架一）新加坡生成式人工智能产业及监管1.生成式人工智能在新加坡的发展现状和地位1）生成式AI产业政策新加坡在人工智能治理方面采取了部门性的方法，即通过各个行业的监管机构来管理人工智能的使用。这些监管机构主要通过发布非约束性的指南和建议（软法手段）来进行治理，而不是通过强制性的法规（硬法手段）。金融领域新加坡金融管理局是新加坡的中央银行和综合金融监管机构。金融管理局是首个在人工智能治理方面采取行动的部门监管机构。2018年，金融管理局与金融行业共同创建了一套FEAT原则（即公平性Fairness、伦理Ethics、问责Accountability和透明性Transparency），以指导人工智能的负责任使用。2019年，金融管理局宣布与金融行业合作创建Veritas框架，为金融机构提供可验证的方法，将FEAT原则纳入其人工智能和数据分析驱动的解决方案中。FEAT原则和Veritas框架是新加坡国家人工智能战略的一部分，旨在为金融部门的人工智能采用建立一个进步和可信赖的环境。信息通信领域信息通信媒体发展局（IMDA）和个人数据保护委员会（PDPC）是人工智能治理中最活跃的监管机构。自2019年以来，IMDA和PDPC每年都推出了与人工智能治理相关的指南或倡议。2019年，两大机构在达沃斯世界经济论坛年会上发布了首个人工智能治理模型框架。该框架旨在为私营部门组织在部署人工智能解决方案时提供可实施的指导，解决关2 第一章、新加坡医疗卫生领域2021年10月，新加坡卫生部发布了医疗人工智能指南，提高患者对人工智能在医疗中使用的信任。该指南是与卫生科学局和综合健康信息系统（现称为Synapxe）共同完成的，补充了新加坡对人工智能医疗设备监管的空白。键的伦理和治理问题。依据国际隐私专业人员协会（IAPP）的相关报告，2020年，上述两机构更新了该模型框架，发布了第二版，并推出了组织实施和自我评估指南，帮助组织评估其人工智能治理实践与模型框架的匹配程度，还发布了案例汇编，展示了组织如何实施负责任的人工智能治理实践。生成式人工智能评估沙箱新加坡信息通信媒体发展局在2024年2月初与新加坡企业发展局合作启动了生成式人工智能评估沙箱。生成式人工智能评估沙箱将为选中的中小企业提供AIGC解决方案，并根据中小企业提供的反馈结果评估这些解决方案，最终在本地中小企业中推广生成式人工智能应用。AI RudderAI Rudder成立于2019年，是一家领先的对话式AI平台和解决方案提供商，专注于潜在客户生成、客户服务和技术优化。其主要产品包括人工智能语音助手、AI聊天机器人、VoiceGPT等。AI Rudder的技术在金融行业中表现尤为出色，优化了自动语音识别（ASR）模型，提升了客户服务的准确性和效率。AI Rudder的模型支持新加坡当地IP访问。ADVANCE.AI网址：https:/www.advance.ai/2）生成式AI企业案例3 第一章、新加坡ADVANCE.AI成立于2016年，总部位于新加坡，并在全球如中国、印尼、菲律宾、马来西亚等多地设有本地客户支持团队，其母公司是东南亚独角兽Advance Intelligence Group，集团业务覆盖12个市场。该公司利用AI、大数据和云计算技术提供数字化解决方案，主要服务包括人脸识别、活体检测、OCR技术支持的数字身份验证、大数据与机器学习支持的风险管理和信贷评估、企业级数据分析等。ADVANCE.AI 提供混合部署方案，可根据企业实际情况选择合适的方式运行应用程序（本地或云端），支持新加坡当地IP访问。ADVANCE.AI 的大模型本身不提供 Google Trends 功能。如果需要使用 Google Trends 数据，通常需要通过调用 Google Trends API 来实现。科大讯飞（iFLYTEK）网址：https:/ 第一章、新加坡然对话方式理解与执行任务。星火认知大模型支持当地IP访问，未限制其在特定国家或地区的访问权限。字节跳动字节跳动成立于2012年，是一家跨国互联网技术公司，主要产品包括抖音、今日头条、西瓜视频、飞书、剪映等。字节跳动积极拓展新加坡市场，将TikTok业务总部迁至新加坡，并在新加坡设立了SPRING公司，专注于开发和推广AI应用。2023年，字节跳动在海外上线基于云雀大语言模型（现名为“豆包大模型”）创建的AI工具平台“ChitChop”，为用户提供200余种工作、生活场景智能机器人服务。字节跳动推出的豆包大模型支持新加坡当地IP访问。新加坡已然成为东南亚地区最受欢迎的初创企业投资目的地，尤其在人工智能领域。新加坡的人工智能独角兽公司和人工智能初创企业吸引了来自全球各地的投资者。美国投资者积极参与新加坡AI企业的融资活动。根据新加坡经济日报，新加坡已与美国晶片制造商英伟达（Nvidia）达成共识，由英伟达公司帮助、支持和参与新加坡NAIS 2.0，深化双方在AI技术领域的合作，共同创建一个支持11种语言的大语言模型，以发展新加坡本土AI技术，并将在新加坡新建一台超级计算机。其他国家投资该国情况：星火认知大模型本身不直接提供Google Trends功能，但可以通过API集成实现对Google Trends数据的处理和分析。5 第一章、新加坡其他国家如西班牙、印度尼西亚和马来西亚也在新加坡AI领域有一定的投资活动。例如，Bolttech公司还从西班牙和新加坡EDBI获得了3000万美元的投资。此外，新加坡也吸引了来自东南亚其他国家如泰国和越南的企业前来设立研发中心或进行技术合作。在新加坡举行的第十届AWS东盟峰会上，亚马逊云科技（Amazon Web Services，简称AWS）宣布计划从2024年到2028年额外投资120亿新元（约合88.8 亿美元）用于扩展其在新加坡现有的云基础设施，以满足该国对云技术和服务日益增长的客户需求。AWS还宣布了一项名为AWS AI Spring的新计划，以加速AI（包括生成式人工智能）在新加坡的采用。重点将是为公共部门、当地企业、初创企业、社区、研发组织和劳动力开发这些技术。目前AWS已就该计划与新加坡资媒局IMDA签署了一份意向备忘录。6 第一章、新加坡新加坡在其国家人工智能战略（NAIS）中宣布了一个宏伟的目标，就是要走在开发和部署具有可扩展性和影响力的人工智能解决方案的前沿，成为全球人工智能解决方案的开发、测试、部署和扩展的中心。该战略提出了五个“生态系统促进因素”，旨在推动人工智能的应用，其中一个就是为人工智能创造一个“进步和可信”的环境，即在创新和社会风险之间找到平衡点的环境。为了建立这样一个“进步和可信”的环境，新加坡目前对人工智能的监管采用了一种较为宽松和自主的方式。这种方式反映了新加坡对人工智能的两个现实考量。一方面，新加坡政府把人工智能视为促进经济发展和提升国民生活水平的重要战略手段。这就说明了为什么新加坡在监管人工智能方面没有采取过于严厉的措施，以免抑制创新和投资。另一方面，考虑到自身的规模，新加坡意识到，在全球人工智能治理的讨论、框架和法规不断发展的情况下，它可能只能是价格的接受者，而不是价格的制定者。因此，新加坡没有重新制定新的人工智能原则，而是选择“顺应世界的现状，而不是期待世界成为什么样”。1）新加坡政府部门治理总框架2.新加坡生成式人工智能监管框架 用于生成式人工智能模型的治理框架(Model Al Governance Framework for Generative Al，以下简称为“MGF for GenAI”）。人工智能治理示范框架 示范框架（Model Framework）是新加坡在2019年世界经济论坛年会（WEF）上推出的亚洲首个人工智能治理示范框架，作为一个自愿的、非强制性的框架，示范框架旨在指导各组织在大规模部署人工智能解决7 第一章、新加坡方案时做到负责任，而不涉及技术的开发阶段。因为公共部门的人工智能使用受到内部指导方针和人工智能与数据治理工具包的约束，示范框架这一指南主要面向私营部门提供人工智能部署的实用建议。示范框架是一个“活的文档”，会根据技术和社会的变化在未来的版本中不断更新。示范框架也不受技术、行业、规模和业务模式的限制。从内容上看，示范框架遵循两个基本原则，以增强对人工智能的信任和理解：第一，使用人工智能进行决策的组织应该保证决策过程具有可解释性、透明性和公平性；第二，人工智能系统应该以人为本：在设计、开发和使用人工智能时，应该优先考虑保护人类的福祉和安全。该框架把这些指导原则具体化为四个关键领域的可操作实践，这些领域涉及组织的决策和技术的开发过程：(a)内部治理的结构和措施；(b)确定人类在人工智能辅助决策中的参与程度；(c)业务管理；(d)利益相关方的交流和沟通。下图列出了属于每个关键领域的一些建议考虑因素、做法和措施的摘要。8 第一章、新加坡 信息通信媒体发展局（Infocomm Media Development Authority，IMDA）网址：https:/www.imda.gov.sg联系方式：[phone] 个人数据保护委员会（Personal Data Protection Commission，PDPC）网址：https:/www.pdpc.gov.sg联系方式：[phone] 金融管理局（Monetary Authority of Singapore，MAS）网址：https:/www.mas.gov.sg联系方式：[phone] 网络安全局（Cyber Security Agency of Singapore,CSA）网址：https:/www.csa.gov.sg联系方式：1800 2550 000（提供犯罪信息）卫生部（Ministry of Health,MOH）网址：https:/www.moh.gov.sg联系方式：[phone]）AI领域主要监管机构及其职责（包括网址、联系方式等）9 第一章、新加坡二）新加坡生成式人工智能合规核心问题1.基础模型和AI产品关系及定性在新加坡的监管框架中，并没有明确针对不同AI产品进行分类并区别监管，但是，我们仍可从新加坡目前的相关法律法规中梳理不同产品类型需侧重满足的监管重点。整体而言，在任何情况下AI产品都应注意遵守新加坡个人数据保护法（PDPA）。此外，对于基础大模型、通用大模型，应侧重于遵守MGF for GenAI中对AI产品的宏观、基础的要求，包括透明度、偏见、问责制等问题。具体到模型应用时，应同时重点关注数据保护问题。对于大模型周边服务，如果为网络安全产品的，应注意新加坡网络安全法的要求。基础大模型是广泛训练的通用AI模型，能够执行多种任务，但并不特定于某一行业或应用场景。这类模型的监管重点在于透明度、数据质量、偏见和歧视以及算法透明度。根据MGF for GenAI的内容，透明度是监管的关键，以确保这些模型的训练数据和算法设计不会导致不公平或歧视性的结果。数据质量同样重要，因为不准确或偏见的数据会导致模型产生错误或有害的决策。为了应对这些挑战，新加坡在MGF for GenAI中强调了透明度和问责制的重要性。通用大模型与基础模型类似，但这些模型经过特定领域的微调，应用于更具体的任务或行业。例如，在医疗领域，通用大模型可以用于诊断疾病或预测患者的治疗效果。在金融领域，这些模型可以用于信用评估或风险管理。通用大模型一方面同样适用基础大模型的监管重点；另一方面，还有通用大模型所在领域特定的应用合规性、隐私保护和数据管理。例如，医疗应用中，监管机构会特别关注模型是否符合医疗法规10 第一章、新加坡模型应用是指具体行业或任务的应用，如医疗诊断AI、金融风险评估AI等。这些应用的监管重点在于安全性、有效性、责任归属以及用户同意和透明度。例如，在医疗诊断中，AI模型的安全性和有效性直接影响到患者的健康和生命，因此监管机构要求这些模型经过严格的测试和验证，确保其诊断结果的准确性和可靠性。同时，明确的责任归属也是监管的重要方面，以确保在出现问题时可以迅速找到责任方并采取相应措施。就此，同样应该重点关注MGF for GenAI中问责制的内容。同样，数据安全保护为该等产品的监管重点，应确保对相关数据的处理符合PDPA。和患者隐私保护的要求；在金融应用中，重点则是模型是否遵守金融监管政策并有效管理风险。另外，数据安全保护为该等产品的监管重点，应确保对相关数据的处理符合PDPA。大模型周边服务，如AI安全等，涉及提供安全保障、监控和优化AI系统等服务。网络安全局(CSA)助理首席执行官 Dan Yock Hau于2024年7月4日表示，人工智能(AI)越来越多地嵌入网络安全解决方案中，以应对不断演变的威胁。新加坡通讯及新闻部高级政务部长 Janil Puthucheary 博士强调了在网络安全工具中带头使用AI的作用。对于该等网络产品，应重点确保遵守新加坡网络安全法的要求（例如，第五部分针对网络安全服务提供商的要求，未经许可，任何人不得提供渗透测试和托管安全运营中心（SOC）监控服务）。11 第一章、新加坡2.大模型预训练使用公开数据合规1）个人信息在构建、训练与评估人工智能系统的过程中，个人数据扮演着至关重要的角色，其目的是使人工智能模型能够从这些数据中汲取用户的行为模式，提炼洞察用户的需求，进而做出精准的推断。根据PDPA对个人信息的保护有较为全面的保护，其规范不仅局限于企业对个人数据的初步采集与使用，更延伸至整个生命周期。因此，如果训练语料中含有新加坡或涉及新加坡居民的个人数据的大模型，使用该等模型的企业务必确保遵守PDPA的规定。2024年3月1日，新加坡个人数据保护委员会（PDPC）发布了关于在人工智能推荐和决策系统中使用个人数据的咨询指南（以下简称指南）。该指南基于PDPA起草发布，虽大部分个人信息使用的要求与PDPA一脉相承，但其强调了在人工智能系统中保护个人隐私和数据安全的重要性，同时确保AI系统的透明度、公平性和可问责性。该指南要求企业在使用人工智能系统的组织应当保持公开透明，并在其书面政策中纳入相关做法和保障措施，以实现公平合理，政策内容提供的详细程度应与风险相称，一般鼓励企业提供更多信息，说明在人工智能系统开发过程中的数据质量和为了保障个人信息安全所采取的管理措施，具体可以包括披露以下信息。a)数据质量：确保训练数据集中个人信息的质量(例如，数据集在市场中的代表性和最近的编制时间)，以提高模型的准确性和性能而采取的措施；b)数据匿名化及访问限制：是否使用匿化数据进行模型开发，如果不是，采取了哪些流程或技术保障措施以限制只有开发人员才能访问个人12 第一章、新加坡信息。另外，值得一提的是新加坡牵头发起的东盟数据匿名化指南（ASEAN Guide on Data Anonymisation）将在2025年发布；c)偏见性评估：在进行偏见性评估时，是否有必要使用个人信息来检查特殊信息(如种族信息或宗教信息)在预训练过程是否被使用，或评估训练数据集的偏见情况；d)测试环境安全及访问限制：如果模型预训练使用了个人信息，企业采取了哪些程序或技术保障措施来确保测试环境的安全并限制测试人员的访问权限；e)数据最小化原则：是否在人工智能系统开发和测试的所有阶段都遵守数据最小化原则等。2）开源数据集除了使用个人信息进行模型训练外，更多的企业会使用市面上已有的开源数据集作为模型训练的主要数据来源，一方面使用开源数据集的可以一定程度上规避知识产权、版权、个人信息等带来的风险，另一方面许多数据集有适用的针对性场景，可能会更加适配所需调试的模型。当人工智能系统训练使用开源数据集时，企业应检查数据集的许可证，确保数据的使用行为遵守其条款和条件。一些开源许可证可能要求数据使用者在再分发数据时保留版权声明，共享相同许可，或在某些情况下提供源代码。目前在训练大模型时较常用到的开源数据集有综合性的数据集，如UCI Machine Learning Repository，该公开数据集包含了数百个数据集，适用于各种机器学习任务，如分类、回归和聚类，还有Kaggle 13 第一章、新加坡Datasets，这一数据集提供了丰富的数据集，涵盖了从图像识别到文本分析等多个领域。也有偏向某一使用场景的开源数据集，如适用于图像处理类大模型的数据集COCO，这一数据集提供了日常物体的图像和详细的注释以及自动驾驶领域常用的开源数据集Waymo Open Dataset用于自动驾驶技术的研究）。还有像Reddit这样与谷歌达成 6000万美元协议，允许其利用其线上讨论帖子训练人工智能模型，形成的数据集Reddit Comments，其中包含了Reddit网站上的评论数据，主要用于文本分析和社交网络研究。14 第一章、新加坡3.数据本地化和数据跨境指南明确了PDPA如何适用于AI系统。指南建议企业在AI系统开发、测试和监控中使用个人数据时，考虑有效性、效益性、合规性和市场性。新加坡的AI数据保护政策：人工智能监管模式框架：新加坡早在2019年便推出了人工智能监管模式框架（Model AI Governance Framework），旨在为AI开发和部署提供指导，确保数据使用的透明度和安全性。AI Verify：2022年，新加坡推出了全球首个人工智能治理测试框架和工具箱AI Verify，用于测试和验证AI系统的安全性和透明度。生成式AI开发安全指南：新加坡计划在2025年初推出针对生成式AI开发者的安全指南，建议开发者向用户透明公开所使用的数据来源、测试结果以及可能涉及的风险和限制，以增强用户对AI产品的信任。隐私增强科技：新加坡政府还支持在AI领域使用隐私增强科技（Privacy Enhancing Technologies），包括通过资讯通信媒体发展局监管沙盒，支持与生成式AI数据使用相关的项目。1）数据本地化AI技术依赖于大规模的数据处理和分析，数据本地化要求可能限制数据的自由流动，影响AI模型的训练和优化。数据本地化是指在本地存储和处理数据的要求，旨在确保数据的主权、安全和隐私。随着AI技术的迅速发展，数据本地化政策对AI应用产生了重要影响。新加坡在数据本地化方面有着明确的法律和政策，以保护数据隐私和确保国家安全。15 第一章、新加坡2）数据跨境数据跨境传输要求根据新加坡个人信息保护法第26条“个人信息跨新加坡国境传输”条款规定：第一，对于跨境传输的数据，机构应当按该法律规定建立个人信息保护标准，确保被传输的数据得到与新加坡法律相等的保护，否则不得进行跨新加坡国境传输。第二，新加坡个人信息保护委员会可以根据机构的申请，通过书面通知豁免机构前述跨境合规义务。第三，可豁免的情形可以由个人信息保护委员会书面说明；豁免不需要在政府公报中公布，并且委员会随时可撤销豁免。第四，新加坡个人信息保护委员会可以随时增加、改变或撤销豁免的具体适用情形。组织须遵守转移限制的义务：组织机构在将个人数据传输至新加坡境外任何地点时，必须遵守PDPA的相关规定。组织不得将个人数据转移到新加坡以外的国家或地区，除非按照PDPA规定的要求，确保被转移的个人数据将获得与PDPA规定的保护标准相当的保护。要做到这一点，该组织必须：确保其将遵守收集、使用和披露个人数据的义务，同时转移的个人数据仍由该组织持有或受其控制；16 第一章、新加坡 确认且保证在新加坡境外的国家或地区的接收人受到法律上可执行的义务的约束，向被转移的个人数据提供至少与PDPA下的保护标准相当的保护。这些 可依法执行的义务 legally enforceable obligations包括根据法律法规、合同或具有约束力的公司规则（BCRs）或任何其他具有法律约束力的文书规定的义务。此外，持有根据个人数据被转移到的国家或地区的法律授予或认可的 特定认证specified certification 的组织将被视为受这些可依法执行的义务约束。根据Personal Data Protection Regulations，特定认证 是指亚太经济合作组织跨境隐私规则（“APEC CBPR”）体系和亚太经济合作组织隐私识别处理（“APEC PRP”）体系下的认证。豁免和特殊情况在某些情况下，如为履行合同所必需、基于个人合法利益或国家利益所需，企业可以在采取合理措施后进行数据跨境传输。此外，匿名处理后的个人数据不作为个人数据对待，可以自由流动。国际合作新加坡积极参与国际协调，通过双边或多边协议推动区域内形成统一的数据跨境流动制度。例如，新加坡加入了APEC主导的跨境隐私规则体系（CBPR），并着手开发与CBPR对接的认证机制数据跨境执法案例例如，某澳大利亚物流公司新加坡主体因未通过签署数据处理协议履行数据跨境传输义务而被处罚。此案例表明，新加坡主体在使用母公司统17 第一章、新加坡总体而言，新加坡的数据跨境政策较为宽松，但监管机构执法活跃，企业需要严格遵守相关规定以避免触及监管红线。一采购的境外供应商系统时，仍需确保自身履行相关义务。18 第一章、新加坡4.开发者安全责任新加坡生成式人工智能治理模型框架虽然不具有法律约束力，但它反映了政府对人工智能开发和部署的期望，并为行业参与者提供了参考标准，鼓励采用合乎道德和透明的人工智能实践。该框架建议从九个维度全面审视生成式人工智能的开发，其中就包括开发者问责制、可信开发和部署、事件报告等开发者安全责任相关的内容。2022年5月25日，新加坡IMDA和PDPC还共同推出了全球首个生成式人工智能治理测试框架和工具包：AI Verify-Project Moonshot，这款工具最初是与来自不同行业和不同规模的公司协商开发的，包括-AWS、DBS银行、谷歌、Meta、微软、新加坡航空公司、NCS（Singtel集团的一部分）/陆路运输管理局、渣打银行、UCARE.AI和X0PA.AI。AI Verify由测试框架、AI验证工具包以及测试报告共同组成。其中测试框架与国际公认的人工智能治理原则、指导方针和框架保持一致，例如来自欧盟、经合组织和新加坡的原则、指导方针和框架，该框架由11项人工智能道德原则和相应的测试标准和测试流程组成。AI Verify是一个人工智能治理测试框架和工具包。通过使用AI Verify，组织能够结合使用技术测试和基于流程的检查来对其AI系统进行自愿自我评估。反过来，该系统帮助公司试图客观和可验证地向利益相关者证明他们的人工智能系统是以负责任和值得信赖的方式实施的。鉴于人工智能测试方法、标准、指标和工具继续发展，人工智能验证目前也处于“最低可行产品”（MVP）阶段。这有两层含义。首先，MVP版本有几个技术限制，以及它可以测试或分析的AI模型或数据集的类型和大小限制。其次，预计AI Verify将随着人工智能测试能力的成熟而发展。19 第一章、新加坡2023年10月31日，新加坡媒体发展局（IMDA）和新加坡AI验证基金会推出了首个生成式人工智能（Gen AI）的评估沙盒，该沙盒推出的测试用例将揭示当前Gen AI评估中的差距项，在特定领域（例如人力资源或安全）和目前不发达的文化特定领域，评估沙盒制定了测试基准，用于评估该特定领域的模型性能。2023年11月，安全人工智能系统开发指南由英国国家网络安全中心（NCSC）和美国网络安全与基础设施安全局（CISA）发布，得到了来20 第一章、新加坡自18个国家的23个国际机构的认可，这其中就包括新加坡网络安全局的参与。该指南将帮助人工智能提供商构建按预期运行的人工智能系统，在需要时可用，并在不向未经授权的方泄露敏感数据的情况下工作。新加坡网络安全局敦促所有利益相关者（包括数据科学家、开发人员、经理、决策者和风险所有者）阅读这些指南，以帮助他们就人工智能系统的设计、开发、运营做出明智的决策。值得注意的是，为在人工智能时代更好地保障个人数据安全，也让使用者能更安心使用AI产品，新加坡在2024年7月宣布，新加坡将推出针对生成式AI开发者的安全指南，旨在将数据透明度和安全性测试，定为AI开发的优先基准和基本要求，新的安全指南也将是新加坡人工智能验证系统AI Verify框架的一部分。2024年7月15日，PDPC还发布了隐私增强技术（PET）：合成数据生成拟议指南，该指南将PET定义为套件工具和技术，允许从数据中处理、分析和提取见解，而不会泄露潜在的个人或商业敏感数据，在指南中PET被分为三类，即数据混淆、加密数据处理和联合分析。数据混淆包括匿名化和假名化、合成数据生成、差异隐私和零知识证明，加密数据处理包括同态加密、多方计算和可信执行环境等技术，而联合分析包括联邦学习和分布式分析。该指南提出了生成合成数据的良好做法，以尽量减少可能的重新识别风险，最终将可能被用于为人工智能（AI）模型生成训练数据集时，用于数据分析和协作以及在软件测试中使用。通过这些应用，合成数据将为金融部门的欺诈检测训练人工智能模型，为研究人工智能偏见而训练人工智能模型，以及为数据分析保护患者数据。安全的开发和部署责任21 第一章、新加坡在开发环节，新加坡指出人工智能开发的安全措施正在迅速发展，模型开发人员和应用程序部署者最适合决定使用什么安全框架。例如，从人类反馈中强化学习（RLHF）等微调技术可以指导模型产生更符合人类偏好和价值观的“更安全”输出。检索增强生成（RAG）和几针学习等技术也通常用于减少幻觉和提高准确性。在部署披露环节，新加坡要求应向下游用户披露相关信息，使他们能够做出更明智的决定。披露领域可能包括使用的数据、培训基础设施、评估结果、缓解措施和安全措施、风险和限制、预期用途和用户数据保护。披露的细节水平可以根据对保护专有信息的透明度进行校准。对于可能构成高风险的模型，例如具有国家安全或社会影响的高级模型，还需要提高政府的透明度。在测试评估大模型阶段，新加坡认为，除了目前的主要基准测试方法（根据问题和答案的数据集测试模型以评估性能和安全）和红色团队（红色团队充当对手用户来“打破”模型并诱发安全、安保和其他违规行为）之外，在生成人工智能方面，需要采取更全面和系统的安全评估方法。行业和部门决策者需要共同改进评估基准和工具，同时保持基线和特定部门要求之间的一致性。模型测试针对模型安全测试，新加坡主要关注两个问题，一是如何标准化测试，二是测试对象的合格性。针对如何标准化测试，新加坡认为在短期内，第三方测试将压缩开发人员自己使用的相同基准和评估集，这需要以标准化的方式进行，以使第三方检测有效，并促进模型之间的有意义的可比性。所以，应更加重视22 第一章、新加坡制定共同的测试基准和方法，而对于更成熟的领域，人工智能测试可以通过ISO/IEC和IEEE等标准组织进行编码，以支持更协调、更稳健的第三方测试。针对测试对象的独立性问题，新加坡认为独立性是确保测试结果客观性和完整性的关键，建立一个合格的第三方测试人员库至关重要，这需要行业机构和政府的共同努力。最终，新加坡可以建立一个认证机制，以确保独立性和能力。这些模型测试的目的是让大模型适应“设计安全”，即通过在系统开发生命周期（SDLC）的每个阶段设计安全性，最大限度地减少系统漏洞，减少攻击面，SDLC的关键阶段包括开发、评估、运营和维护。鉴于生成人工智能的独特性，可能需要进行改进以制定新的安全保障措施，包括数据输入过滤器的布置，即使用输入审核工具检测不安全的提示（例如，阻止恶意代码）。同时也包括使用生成人工智