文章概要:
1. 一国外开发者2个月内利用OpenAI工具打造AI宣傳機器，每月運營成本低于400美元
2. 项目目的是展示AI大规模生产虚假信息的危险
3. 开发者没有将模型投入使用，因为它会推动假信息传播。
站長之家（ChinaZ.com）9月4日 消息:最近，一名匿名的開發者利用OpenAI的ChatGPT等工具，在不到2個月的時間內打造出了一個人工智能宣傳機器。這個名爲“CounterCloud”的項目每月的運行成本不到400美元，突顯了進行大規模宣傳是多麽廉價和簡單。
这名开发者使用了“Nea Paw”这个化名，声称自己是网络安全专业人员。在YouTube上发布的视频中，他描述了这个项目的实现过程和目的。他表示，自己希望看到AI假信息“在现实世界中运行”，因为大型语言模型具有阅读和撰写假新闻的强大语言能力。
他開始將“對立”文章輸入ChatGPT，並設定提示語指示其生成反駁文章。AI機器人會以不同風格和觀點生成同一文章的不同版本，通過“捏造故事”、“僞造曆史事件”來質疑原文章的准確性。爲了制造真實性，還添加了新聞主播朗讀自動生成文章的音頻剪輯和照片。
在2個月內，這個AI系統每天24個小時不斷的運行，“90%的時間生成令人信服的內容。
開發者還沒有將模型投入互聯網使用，因爲這會主動傳播虛假信息。但他認爲，公開CounterCloud項目及其內部運作機制，能更好地提醒公衆人工智能宣傳的威脅。
（舉報）