OpenAI近期披露一起滥用ChatGPT从事诈骗活动的案例，一个主要在柬埔寨活动的诈骗网络遭到打击。调查显示，该团伙涉嫌利用ChatGPT辅助实施投资、恋爱、赌博以及冒充执法机关等多种类型的诈骗。
此次调查最初来自同行业机构提供的相关线索。OpenAI在进一步分析后识别出有关账号及活动模式，并将发现的威胁信息与行业合作伙伴及相关监管机构共享。
调查发现，该诈骗网络并非只使用单一诈骗手法，而是会根据不同目标灵活组合多种骗局。例如，部分人员会先通过虚假恋爱关系与受害者建立信任，再逐步诱导对方参与所谓投资项目；另一些则冒充赌博平台工作人员或执法机关人员，以不同话术骗取受害者钱财。
相关活动主要集中在柬埔寨班迭棉吉省波贝市。涉案人员被发现使用ChatGPT建立虚假身份及人设、翻译诈骗话术、制作宣传内容，同时也将其用于日常运营，包括撰写内部公告、翻译信息以及整理招聘和移民相关事项等。
值得注意的是，部分账号生成的内容还涉及人口贩运及强迫劳动等信息。这与近年来东南亚部分诈骗园区以高薪工作为诱饵招募人员，随后通过债务、限制人身自由等方式迫使人员参与诈骗活动的情况存在相似之处。
OpenAI指出，由于现有信息有限，难以确认相关账号使用者各自所处的具体环境，但部分参与诈骗活动的人员本身也可能同时处于遭受剥削或强迫劳动的状态。
针对相关滥用行为，OpenAI已经封禁涉及此次事件的ChatGPT账号网络，并与相关合作方分享威胁信号，以协助识别类似诈骗活动。
OpenAI同时指出，现代诈骗网络的运作方式正变得更加复杂，不同类型的诈骗可能相互结合，但无论使用投资、恋爱、赌博还是冒充身份等包装，其核心目的仍是通过欺骗手段获取受害者的信任及财物。
