每次使用AI来写一点东西,总觉得一切内容都在ai的监视下暴露无疑。当然,那些全新创建的项目也无所谓,本来就是它生成的,但是一些旧项目,在开始ai之后,其实就相当于给ai提供了大量的代码样本和示例。
在ai能力越来越丰富,对于程序员的侵略性变的越来越强的同时,其实也引入了一些新的问题,最主要的就是安全性问题。大量ai生成的代码,无人审计也没有人知道会不会引入一些漏洞或者缺陷。另外一个问题就是,程序员与ai的交互变得可追踪,可重放。问题从来不是得到答案就结束了,后续各种交互过程就成了ai迭代训练的样本。
上图是教主的微博内容,发生这种现象其实毫不奇怪,毕竟交互是要提交相关的代码片段或者实现逻辑的。有时候让ai实现功能,在ai无法达到想要的效果的时候,我也会给出具体的步骤提示,甚至包含示例代码。这些稀缺性的交互内容就成了相对来说价值比较高的样本。
也不是所有的交互都会成为训练样本,毕竟用ai生成的内容训练ai会让ai不断降智,这也是为什么我说以后人工产生的内容(不是国内那种复制粘贴的内容)依然具有较高的价值。
同样对于一些敏感内容的交互,也应该有一定的加密或者保密方式,毕竟这些东西一旦到了云端之后,至于那天会出现在什么地方那就不确定了。这还是使用直连的情况。
如果使用各种聚合服务,那自己的数据就变得更加公开了,几乎所有的聚合服务平台都会记录交互内容。这些内容后期会被聚合服务平台进行售卖,这也是他们收入的一部分。至于这些东西卖给谁,那就更无法追踪了。
所以一些比较私密的项目,建议不要使用这种聚合服务,并且适当控制ai工具的权限。
毕竟,你也不想让别人看到你在互联网上裸奔吧。
博客: obaby 𝐢𝐧⃝ void
地址: https://oba.by/
文章: 《裸奔》




62 comments
灵妹妹,别标题党啊
还奔不奔啊
不能真奔啊ヽ(゚Д゚)ノ
AI 做个擦边写真,估计是他想要的
哈哈哈。他不大喜欢ai生成的
还是灵妹妹懂我
陪你一起奔
你怕的话 找座野山
玩的挺花
看见这标题,立马就点进来了,噗
我用AI问什么问题,问完我就把那个会话删除,不知道有没有用
没用,就好像我跟你微信聊完了,你把我的对话记录删除了,然后跟我说,叫我也删掉。就算我俩都删了,腾讯服务器上还是有这个记录。
我自己亲测发现的是千问在这方面最严重,我都注销了几次账号,因为登录绑定的是同一个淘宝/支付宝,它永远记得我N次注销前都问过哪些问题,它当时的建议是什么。
燃鹅,就是没啥用。嘻嘻
之前还看到一个帖子说某些国产ai后面有人工审核的,聊的涩涩话题直接被封号了。哈哈哈
肯定不能奔啦~~
所以,无论你是个怎样的用户,免费也好,付费也好,丢给AI之后,就等于共享了你原本的代码给AI学习,而且各个AI之间会互相交流一起学你的原创。
是哒,大概率就是这么个情景。
ai就是能量和知识的黑洞,他学习的知识,可能永远超越它吐出来的正确知识。符合宇宙漏斗模型定律。
用户本身也是ai进化的资源
有说法豆包之前免费就是为了收集这些。进化啊,不知道哪天会产生自主思维
自主思维可能目前不大会,但是自主进化已经实现了。
包括各种大型网站聚合,百度、阿里之类的,自然也会收集这些东西,小网站就更不用说啦。
但是感觉AI不会分辨是非、对错,啥信息都收集,给出的答案并不都是正确的。所以进化的后果也是难料
现有的ai多数还是基于 矩阵计算等等的一系列数学方法。
不过我发现一个问题,那就是我现在用cursor的时候,有时候他能坚持『己见』了,哪怕我指出它的方法不对,它也拒绝修改,哈哈哈
这是产生了自我?有了个性啊
这个的确让我有这个感觉,不过本质上还不是自我意识。
相对来说就是对比之前的,我说某个方法不对,他会一直去改,哪怕改的不对也会改。现在他坚持『己见』之后,我有时候反而得烦死我的操作是不是有问题了。
哈哈,也许是AI的智力目前只能做到这一步,在AI的判断中或许没有更好的方法了
现在所有的东西都是处于裸奔状态的 只是被展示的形态不同罢了😌
是的,就是这么个情形
可恶的标题狗~
害我瞎激动~
表酱紫,真裸奔了,你就失去我了~~
失去的只是 .cn,得到的是 x .com
这 哈哈哈 远离x
怎么说国产ai,像是被套了一层枷锁。
所有人都在觊觎那点有用的数据。
除非不用AI,既然用了,必然要给数据它,不然它怎么越来越强。
方便的代价
ai也是一个好东西,主要看怎么样用,不过发现豆包降智了
降智也有可能是换了成本更低的模型,很多聚合服务平台也会这么干
这种现象我觉得是必然发生的,我们使用AI,也成为它训练的一部分了。有些还是不要放上去,或者有策略的使用AI
只要用就避免不了信息交互,这个无解
上次提问不小心把账号密码都发过去了,搞得我把密码都改了,非常小心
这 谨慎处理敏感信息
一个ai参与项目,让其它的ai检查安全性。。。
现在也有安全检测的ai 一切皆可ai了
一些基于简单代码方面的安全它们还是可以解决的,但涉及更深层次的现阶段还不知道是否能值得信任。。。
很多时候如果不做代码审计,得到的代码跟黑盒差不多,表面上看似完成了相关的功能,至于怎么实现的,是不是有问题完全不知道。
嗯嗯,貌似当一个问题在一个对话框中来回问ai三次后回答还不在点上基本就可以放弃了,虽然看着他还在做各种详细的分析,基本都是无用的。。。
智能体给人方便时也吸收了服务对像的智慧,然后越来越进化,不久前还只能问答一下,现在已经做事了,不久后,我还没想到。
以后知识变得更廉价了,我也不知道未来变啥样
此裸奔非彼裸奔。从chatgpt到现在也就2年多光景吧,已经改变了社会一些规则,冲击了一些行业,现在让人又爱又恨,真不敢想再过几年发展成什么样子。
进化速度越来越快了
AI生成 AI学,对了你有一个快递要取!
让你发现了 嘻嘻(◍•ᴗ•◍)
被标题吸引了,哈哈哈,用ai学习的同时 ai也在同步学习
老标题党了
吸引读者的标题
主要呢换了个ip来踩个点
可不 专业标题党
散了,文不对题,真是手贱点进来
上当了吧😁
豆包为什么能免费用,是因为我们给的数据还是能赚大钱的。现在这些问答型的AI,就和原来的微信,门户网站一样,是一个流量的入口,也是大数据的来源。
豆包也要收费啦
豆包要收费了,是不是也就意味着收集东西已经差不多够了
我感觉数据收集和收费并不矛盾,收费之后数据质量肯能更高了,毕竟为了省钱一些无关紧要的内容可能就不会问了。
连博客都要关闭权限的,他们是一点隐私都得不到哈,全是无价值的内容给AI
嗯嗯~~
涉及加密数据的时候,我会用chatgpt临时会话,估计临时会话也不会太保密。
这种数据应该都会记录吧,毕竟记录成本没多高。