人工智能的转折点：有关隐私和道德问题的关注

有别于以监督式机器学习 (supervised machine learning) 训练的人工智能，以大型语言模型为基础的人工智能聊天机器人是利用深度学习技术，在没有监督的情况下分析和学习大量非结构化数据 (unstructured data)。这些训练数据通常来自于互联网上公开的文字，当中可能包括敏感的个人资料，甚至是在网上发布的琐事。例如，据报导，ChatGPT的开发者是从互联网上收集了多达3000亿字来训练ChatGPT。由于许多开发人工智能的机构会保留其数据集的专有权，并且很少披露有关收集资料的详请，因此它们可能规避了一般资料保障法例要求以公平和在当事人知情的情况下收集个人资料的规定（如《个人资料（隐私）条例》（《隐私条例》）的保障资料第1及第5原则），从而构成隐私风险。

人工智能聊天机器人的回答内容也可能产生隐私问题，因为聊天机器人与用户的对话可能会成为人工智能模型的新训练数据。如果用户无意中向人工智能系统提供敏感资料，这些资料便有机会被滥用，超出原本的收集目的，因而违反有关限制使用资料的原则（《隐私条例》保障资料第3原则）。人工智能聊天机器人亦可能提供包含个人资料的回应，而包含这些个人资料的前文后理可能被误解或已被删除。

另外，开发生成式AI的机构可能在资料当事人的查阅及更正个人资料的权利（《隐私条例》保障资料第6原则）和个人资料的保存期限（《隐私条例》保障资料第2原则及第26条）方面遇上困难。举例说，若过时及／或不准确的个人资料被用作人工智能的训练数据，并成为背后大型语言模型的一部分，用户便很难（甚至无可能）查阅、更正和删除这些资料。

此外，正因人工智能聊天机器人的模型和数据库存储了大量的对话，当中的资料安全风险也不容忽视。即使没有受到外来的恶意威胁，单是意外的资料外泄亦可构成重大伤害。就在2023年3月，ChatGPT出现了一次严重的资料外泄事故，披露了部分用户过往对话的标题、用户的姓名、邮箱地址和信用卡号码的最后四位数字。

毋庸置疑，相关的机构必须保障个人资料不会受未获准许的或意外的查阅、处理、删除、丧失或使用（《隐私条例》保障资料第4原则）所影响。

诚然，开发任何人工智能模型都应避免用劣质的材料生产劣质的产品。作者认为这个问题在人工智能聊天机器人中尤其令人担忧。聊天机器人不时会自信地提供错误但看似合理的答案，专家将这种现象称为“幻觉”(hallucination)。有一次，作者向一个聊天机器人指出，它提供的答案不正确，而聊天机器人实时回复：“对不起，我犯了一个错误。”人工智能聊天机器人提供不准确的资料，例如错误的医疗建议，更可能会对用户造成严重的后果。

另一个更复杂的道德风险问题是：生成式AI所生成的内容可能带有歧视或偏见。这是因为人工智能模型的训练数据是从现实世界中收集，因此亦包含现实世界的偏见（例如种族、性别和年龄歧视等）；而当这些数据成为了人工智能模型的一部分，该人工智能便会生成带有歧视性或偏见的内容。

最后，通用的人工智能难以避免被坏人利用的风险。一个典型的例子是深伪技术 (deepfake)，即以生成式AI科技合成的虚假语音、图像或影片，可能被用于传播虚假新闻或有害宣传。人工智能聊天机器人也可能被用于编写恶意软件的代码。

以上这些道德风险突显了社会需要切实努力，制订有效的保障措施，以防止人工智能被不当利用。

在监管方面，内地的《互联网信息服务深度合成管理规定》于2023年1月生效，规范深度合成服务供应商、运营商和用户。国家互联网信息办公室（网信办）亦于2023年4月发布了《生成式人工智能服务管理办法（征求意见稿）》，其中规定禁止生成有害内容，并要求生成式人工智能产品和服务供应商向公众提供服务前向网信办申报安全评估；亦明确要求供应商遵守内地《个人信息保护法》。另一方面，欧盟正计划通过《人工智能法》规管所有人工智能。该法案提出以风险为基础的方式监管所有人工智能系统，并禁止使用某些高风险人工智能系统。加拿大也在考虑制订类似法律，即《人工智能和数据法》，目前正在进行公众咨询。最近，英国政府于2023年3月发布了人工智能的白皮书，提出以原则为本的框架规管人工智能，被视为比欧盟提出的监管方式更支持创新及更灵活。尽管方式不尽相同，但这些监管计划都认同保障个人资料和道德风险的重要性。上述拟议的法例均规定在开发和使用人工智能系统时，必须尊重隐私和保护个人资料，并维护道德价值，如防止偏见，保持公平和透明等。

各地政府和监管机构也一直在发布有关人工智能的指引，建议在运营中使用生成式AI的机构留意有关人工智能的管治和道德框架。个人资料隐私专员公署于2021年8月发布了《开发及使用人工智能道德标准指引》，协助机构以保障隐私和具道德的方式开发及使用人工智能系统。该指引罗列了国际公认的人工智能道德原则，涵盖问责、人为监督、透明度与可解释性、公平、数据隐私、有益的人工智能，以及可靠、稳健和安全方面的标准。内地政府于2021年9月发布的《新一代人工智能伦理规范》亦订定了类似的原则，如增进人类福祉、促进公平公正及保护隐私安全。亚太区其他司法管辖区，如新加坡、日本和南韩，也发布了有关人工智能道德管治的指引。

尽管全球尚未就是否应通过立法或其他方式规管人工智能及规管的范围达成共识，但可以肯定的是，在迎接一个人工智能所带来令人振奋又充满机遇的前景的同时，我们也必须评估和控制它对数据隐私和道德价值可能带来的伤害。所有持份者，包括科技公司和人工智能开发机构，应携手共建一个安全及健康的人工智能生态系统，确保这个变革性的技术会用于人类的福祉。