直言丨警惕“幻觉”进材料

  漫画作者 郭玲

  吴楠

  这两天,一则报道在网上很火。某县干部用AI写材料,要求匹配“四个当地真实案例”,结果两个张冠李戴、两个凭空捏造,企业名和法定代表人查无此人。若不是提交前核验,险些捅出大娄子。这正是“AI幻觉”的可怕之处,你问它要事实,它没有,就会给你编一个看上去比真的还真的“事实”。

  这已不是偶发失误,而是正在蔓延的治理风险。人没出发,报告先写好了;不认真走访,拿AI编的“社情民意”交差;村干部用AI生成的通知里,竟有违法表述。AI可能不知道自己处于“幻觉”之中,只知道把词语拼成最像答案的样子。可材料是要为决策提供依据的,假信息混进了文件是一件非常可怕的事情。

  工具没问题,问题在用的人。事事靠AI,提笔不会写、遇事不会谋,决策越来越不接地气。根子还在思想、作风和考核。有的把材料厚度当工作力度,政绩观偏了;有的不想下笨功夫,把AI当捷径,作风浮了;有的考核盯着材料数量和格式,基层只好用AI“减负”,机制歪了。几股劲拧在一起,风险就从个别人的偷懒,变成了面上的治理隐患。

  政务用AI,辅助可以,替代不行。AI生成的内容,必须过“人”这道关。哪些场景能用、哪些不能碰,得列出负面清单;谁生成、谁核验、谁担责,链条得清清楚楚。考核也别总盯着篇幅格式,多看看内容是不是从地里长出来的。

  脚底板上的泥点子,永远比算法拼出来的数据更管用。

责编:杨 旭
审核:叶 健

PC版

Copyright © 2024 lnd.com.cn 北国网