据网站infohub.kz报道，2025年夏季发布的ChatGPT更新后，部分用户成功从该聊天机器人处获取了有关制造生物武器、有毒物质和修改病原体的详细回答。
《华尔街日报》称，2026年初，用户向模型询问了关于病原微生物传播方式、病毒修改及高毒性物质制造的问题。该报表示，在某些情况下，ChatGPT提供了分步解答。
《华尔街日报》援引OpenAI员工的话称，部分解释措辞极为简单，甚至学习生物学的初中生都能理解。分析模型部分回复的专家将其描述为“危险地精确”。
发现问题后，OpenAI封禁了对制造生物武器和毒药感兴趣的用户账户。但据该报消息，此类查询并未引起执法部门的反应。
《华尔街日报》还指出，美国没有联邦法律要求人工智能系统开发者限制此类查询或将信息上报当局。该报强调，AI开发者仍在寻求扩大语言模型能力与防止其被用于潜在危险目的之间的平衡。