#ai幻觉 — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ai幻觉, aggregated by home.social.
-
@ccandyuki
这个…感觉可以展开讨论一下
首先关于生成式ai胡编乱造（#AI幻觉）的问题是根本性无解的，因为对于大模型来说「从已有素材中整理出一个回答」和「凭空捏造出一段材料」是完全一样的技术过程不过也有很多ai模型非常注重给出可靠引文，比如最早这样做的new bing ai会将每句话的材料出处链接给出，用户可直接点击访问；新兴的 #AI搜索引擎 如 #felo 和 #perplexity 也都会将信息的出处来源网页链接直接呈现给用户，以便用户进行溯源和核验。虽然这并不能从根本上解决ai幻觉的问题（again这对大模型来说是技术性无解的，它完全可能从一堆食谱页面链接中莫名其妙给出一句「母乳喂养好」），但对于普通用户使用ai进行信息检索已经非常有帮助
说起来我并不觉得随便转截图以及按自己理解转述信息并且不给出直达来源链接的人类会比生成式ai可靠多少，且看默嘟象上截图转嘟多普遍而带链接嘟文多稀有就可见一斑
而且人类不会像ai那样被指出问题后马上道歉和尝试改正，我在 #补个来源 时经常被截图者骂/拉黑… -
@ccandyuki
这个…感觉可以展开讨论一下
首先关于生成式ai胡编乱造（#AI幻觉）的问题是根本性无解的，因为对于大模型来说「从已有素材中整理出一个回答」和「凭空捏造出一段材料」是完全一样的技术过程不过也有很多ai模型非常注重给出可靠引文，比如最早这样做的new bing ai会将每句话的材料出处链接给出，用户可直接点击访问；新兴的 #AI搜索引擎 如 #felo 和 #perplexity 也都会将信息的出处来源网页链接直接呈现给用户，以便用户进行溯源和核验。虽然这并不能从根本上解决ai幻觉的问题（again这对大模型来说是技术性无解的，它完全可能从一堆食谱页面链接中莫名其妙给出一句「母乳喂养好」），但对于普通用户使用ai进行信息检索已经非常有帮助
说起来我并不觉得随便转截图以及按自己理解转述信息并且不给出直达来源链接的人类会比生成式ai可靠多少，且看默嘟象上截图转嘟多普遍而带链接嘟文多稀有就可见一斑
而且人类不会像ai那样被指出问题后马上道歉和尝试改正，我在 #补个来源 时经常被截图者骂/拉黑… -
@ccandyuki
这个…感觉可以展开讨论一下
首先关于生成式ai胡编乱造（#AI幻觉）的问题是根本性无解的，因为对于大模型来说「从已有素材中整理出一个回答」和「凭空捏造出一段材料」是完全一样的技术过程不过也有很多ai模型非常注重给出可靠引文，比如最早这样做的new bing ai会将每句话的材料出处链接给出，用户可直接点击访问；新兴的 #AI搜索引擎 如 #felo 和 #perplexity 也都会将信息的出处来源网页链接直接呈现给用户，以便用户进行溯源和核验。虽然这并不能从根本上解决ai幻觉的问题（again这对大模型来说是技术性无解的，它完全可能从一堆食谱页面链接中莫名其妙给出一句「母乳喂养好」），但对于普通用户使用ai进行信息检索已经非常有帮助
说起来我并不觉得随便转截图以及按自己理解转述信息并且不给出直达来源链接的人类会比生成式ai可靠多少，且看默嘟象上截图转嘟多普遍而带链接嘟文多稀有就可见一斑
而且人类不会像ai那样被指出问题后马上道歉和尝试改正，我在 #补个来源 时经常被截图者骂/拉黑… -
@ccandyuki
这个…感觉可以展开讨论一下
首先关于生成式ai胡编乱造（#AI幻觉）的问题是根本性无解的，因为对于大模型来说「从已有素材中整理出一个回答」和「凭空捏造出一段材料」是完全一样的技术过程不过也有很多ai模型非常注重给出可靠引文，比如最早这样做的new bing ai会将每句话的材料出处链接给出，用户可直接点击访问；新兴的 #AI搜索引擎 如 #felo 和 #perplexity 也都会将信息的出处来源网页链接直接呈现给用户，以便用户进行溯源和核验。虽然这并不能从根本上解决ai幻觉的问题（again这对大模型来说是技术性无解的，它完全可能从一堆食谱页面链接中莫名其妙给出一句「母乳喂养好」），但对于普通用户使用ai进行信息检索已经非常有帮助
说起来我并不觉得随便转截图以及按自己理解转述信息并且不给出直达来源链接的人类会比生成式ai可靠多少，且看默嘟象上截图转嘟多普遍而带链接嘟文多稀有就可见一斑
而且人类不会像ai那样被指出问题后马上道歉和尝试改正，我在 #补个来源 时经常被截图者骂/拉黑…