日本一男子利用AI制造恶意软件 被判有罪

2024年10月25日，据《读卖新闻》报道，日本一名25岁林(Hayashi)姓男子因滥用生成式AI制造电脑病毒，被东京地方法院判处有期徒刑三年，缓期执行四年，标志着日本首次有因滥用生成式AI作出刑事定罪的案例。

据判决书等资料显示，去年3月31日，该男子左右在川崎市的住所中利用电脑和智能手机，通过生成式AI获取的恶意程序设计图(源代码)制作了类似勒索软件的电脑病毒。此外，他还冒充他人骗取了手机通信卡等物品。

判决称：“被告为了获取金钱而制作病毒，其行为自私且刑事责任重大。”同时，考虑到该男子已承认起诉事实并表示反省，法院决定给予缓刑。

在法庭上揭露了另一个现实——哪怕没有IT专业知识，也可以利用生成式AI制作病毒。根据检方的开场陈述，被告林某使用“非官方版的ChatGPT”，创建了对特定文件进行加密并使其无法使用，以及要求支付加密货币“比特币”的程序源代码。据称，他通过修改并合并上述代码来完成病毒的制作。

被告在本月1日的质询中表示，完成病毒大约花费了一个月时间。他承认自己没有IT知识，“如果没有生成式AI的话，我想自己无法制作出来。”当辩护人问他“是否很简单”时，他回答说“是”。检方在陈述中指出，如果被告没有因通信卡诈骗案被捕，他的病毒可能会被用于犯罪。

安全公司“三井物产Secure Directions”高级恶意软件分析技术员吉川孝志称，生成式AI设置了不提供非法信息的限制，但网上也存在规避限制的方法。被告在质询中也表示“查找了解除限制的方法，并使用之”。吉川孝志称：“生成式AI被恶意利用时，即便没有知识的人也可能获取可用于犯罪的信息”，并指出“在不影响正当使用的前提下，必须加紧采取防止滥用的对策”。