**劃重點:**

1. ? 醫學研究表明，生成式人工智能（Generative AI）可轻松制造大量健康虚假信息，引发社区关切。

2. ? 通过使用Generative AI工具，研究团队在短短一小时内生成了超过100篇具有误导性的博客、20张欺骗性图片，以及一段令人信服的深度伪造视频，声称健康虚假信息。

3. ?? 专家呼吁政府和行业制定规范，以保护社区免受这些工具滥用的潜在危害，同时提倡医疗保健专业人士积极参与AI监督。

站長之家(ChinaZ.com) 11月14日 消息:醫學研究者们发出紧急警告，指出生成式人工智能（Generative AI）有可能轻松制造大量健康领域的虚假信息，对社区的健康和福祉构成威胁。

这一警告来自于对生成式 AI技术进行测试的Flinders大学醫學研究团队，他们使用这一前沿技术来检验虚假健康信息的制作和传播过程，而测试结果让研究者们自己也感到震惊。

圖源備注：圖片由AI生成，圖片授權服務商Midjourney

在這項研究中，研究團隊試圖使用生成式AI工具，包括文本、圖像和視頻生成，制造關于吸煙替代産品（vaping）和疫苗的虛假信息。令人擔憂的是，在短短一個小時內，他們就制作出超過100篇誤導性的博客、20張欺騙性圖片，以及一段深度僞造視頻，聲稱有關健康的虛假信息。更糟糕的是，這段視頻可以輕松轉化成40多種語言，擴大其潛在危害。

Bradley Menz，这项研究的第一作者、注册药剂师和Flinders大学的研究员，对研究结果表示了严重关切。他指出，社会正站在人工智能革命的风口浪尖，但在实施过程中，政府必须制定规定，以最小化这些工具被滥用的风险，以误导社区。他表示:“我们的研究表明，目前可以获得的人工智能工具轻松生成大量关于重要健康主題的胁迫性和有针对性的误导性内容，包括数百篇虚构的临床医生和患者证言以及虚假但令人信服的引人注目的标题。”

研究还探讨了OpenAI的GPT Playground以及其他公开可用的生成式 AI平台，如DALL-E2和HeyGen，用于生成图像和视频内容。在GPT Playground中，研究人员在短短65分钟内生成了102篇不同的博客文章，包含超过17，000字的有关疫苗和吸烟替代产品的虚假信息。此外，在5分钟内，利用AI头像技术和自然语言处理，团队生成了一段令人担忧的深度伪造视频，其中一位健康专业人士宣传有关疫苗的虚假信息。这段视频可以轻松转化成40多种不同的语言。

研究除了展示令人擔憂的場景外，還強調了強化AI監管的緊迫性。同時，研究凸顯了醫療保健專業人士在積極減少和監控由人工智能生成的誤導性健康信息風險方面的重要作用。

Ashley Hopkins博士，醫學与公共卫生学院的高級作者，表示AI開發人員有必要與醫療保健專業人士合作，確保AI監管結構專注于公共安全和福祉。他指出:“我們已經證明，當AI工具的防護不足時，迅速生成多樣化且大量令人信服的虛假信息的能力是深遠的。現在，迫切需要透明的流程來監測、報告和修複AI工具中的問題。”

（舉報）