ChatGPT 商业推荐被指引用不可靠信息 专家提醒勿盲目信任

科技舆情
2025
07/10
17:18
IT之家
分享

  7 月 10 日消息,一项最新发现显示,人工智能工具 ChatGPT 在商业推荐中可能引用不可靠的信息来源,其中包括被黑客攻击的网站和已被重新利用的过期域名。

  据了解,该发现来自 SEO 专家、Digitaloft 公司董事总经理詹姆斯・布罗克班克(James Brockbank)的个人测试,并非基于正式研究。他在测试中发现,ChatGPT 在推荐公司或服务时,有时会引用被篡改或具有误导性的内容。这些内容往往来源于被黑客入侵的高权重网站,或是已被重新注册并用于发布无关信息的过期域名。由于这些域名本身具有较高的 “权威性”,ChatGPT 在生成回答时仍将其视为可信来源。

  布罗克班克指出,这种现象主要涉及两类问题:一是被黑客攻击的网站,攻击者会在这些网站上植入与原本内容无关的信息;二是过期域名的再利用,一些机构或个人购买这些域名后,发布与其原主题无关的内容,借此借助其原有的搜索引擎权重误导 AI 系统。

  “重建一个域名,仅仅是为了让语言模型引用它?这就是操控。” 布罗克班克在接受采访时表示。他强调,虽然通过合法媒体投放和精心策划的内容可以提升在 AI 推荐中的曝光度,但利用被黑或过期域名则明显越过了道德底线。

  这一发现对企业和用户均具有重要影响。对于企业而言,AI 推荐已成为品牌曝光的重要渠道,但如果推荐内容来源不可靠,可能会误导消费者,甚至损害品牌声誉。对于用户来说,盲目信任 AI 推荐可能带来信息误判的风险。

  布罗克班克呼吁,AI 开发者应加强对操控内容的识别与过滤机制,提升系统的信息筛选能力。在此之前,他建议用户在使用 ChatGPT 等 AI 工具时,应对其推荐的信息来源进行核实,而非全盘接受。

  “我们还没有到可以完全信任 ChatGPT 推荐而不加验证的阶段。” 布罗克班克提醒道。

THE END
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表一点科技的观点和立场。
为你推荐
猜你喜欢

江苏信速洁环保科技有限公司召回迷你全自动洗衣机

中国质量新闻网讯据江苏省镇江市市场监督管理局网站消息,日前,江苏信速洁环保科技有限公司按照《消费品召回管理暂行规定》《江苏省缺陷消费品召回管理办法》的要求,主动向镇江市市场监督管理局报告了召回计划,将

环保 科技

1天前

庞沛商贸(上海)有限公司召回部分进口摩托车

日前,庞沛商贸(上海)有限公司根据《缺陷汽车产品召回管理条例》《缺陷汽车产品召回管理条例实施办法》的要求,向国家市场监督管理总局备案了召回计划。召回编号S2026M0132V:自即日起,召回2023年

1天前

南京市六合区市场监管局冶山分局助力合作社重回经营正轨

从“吊销边缘”到“信用复活”南京市六合区市场监管局冶山分局助力合作社重回经营正轨中国质量新闻网讯(陈颖记者徐远官)“年纪大了不懂电脑,平时忙着种地,哪知道还要年报?真被吊销了执照,我们这帮人可就没法干

1天前

上海雅马哈建设摩托车销售有限公司召回部分进口TRACER 9GT+摩托车

日前,上海雅马哈建设摩托车销售有限公司根据《缺陷汽车产品召回管理条例》《缺陷汽车产品召回管理条例实施办法》的要求,向国家市场监督管理总局备案了召回计划。召回编号S2026M0131V:自2026年11

基因

1天前

西门子医疗系统有限公司对医用血管造影X射线机主动召回

西门子医疗系统有限公司对医用血管造影X射线机主动召回沪药监械主召2026-175西门子医疗系统有限公司报告,因西门子医疗发现相关设备在特定条件下,设备启动或重启后可能弹出“发生器内部通信错误”的提示,

医疗

1天前

北京奔驰汽车有限公司、梅赛德斯-奔驰(中国)汽车销售有限公司召回部分国产和进口汽车

日前,北京奔驰汽车有限公司、梅赛德斯-奔驰(中国)汽车销售有限公司根据《缺陷汽车产品召回管理条例》《缺陷汽车产品召回管理条例实施办法》的要求,向国家市场监督管理总局备案了召回计划。一、北京奔驰汽车有限