群聊日记(20230719)-老马的御林军团/特斯拉的反侵权事件/大AI时代的讨论

老马的御林军团

@Jin Feng:我觉得这个也可能值得挖一下。听着很传奇的。听着像:终极老妖怪马一龙手下的超秘密精英别动队。暗中的利剑,无声的清扫者。。。。


@Jin Feng:去年推特刚接手,腥风血雨砍人的时候,也有报道说老马带着几十个特和空叉工程师去推特坐镇(https://www.cnbc.com/2022/10/31/elon-musk-has-pulled-more-than-50-tesla-engineers-into-twitter.html)说不定里面就有 The 25 Guns。

特斯拉的反侵权事件
@除了马斯克啥都懂:万能的群友来辟谣

@明明:抛开事实不谈,这是什么流氓逻辑?
@yiran:这个昨天晋哥预言过,肯定又要有谣言出来了,果然啊

@Jin Feng:这个起诉是防御性起诉。
美国专利法太细太多,很容易掉坑里,不少大型公司都会搞一些很无聊但覆盖面很广的专利,用来防御。这样如果有宵小用一个莫名其妙的专利来起诉大公司骗钱,大公司可以到他们自己拥有的这类无聊但覆盖广的专利里,找出一个起诉人也违反的,反告他们。
有点像核恐怖平衡。
是这个澳大利亚公司先告了特斯拉,所以特斯拉采取这么一个超级普通的做法,目的是让他们把专利起诉撤了,然后特也会把自己的反诉撤了。
就是这个样子。就知道会有人蹦出
特斯拉/马一龙的承诺是,“不主动针对别的对特斯拉没有恶意的公司,采用专利诉讼。”

大AI时代的讨论
@Jin Feng:今天越想,越觉得这是本周最大的新闻了。


@Jin Feng:不知道华为,百度怎么想。。。可以一周就赶上GPT3.5,但接下来怎么办?继续赶?反向研究?
@老牛:这个还是不太懂,意味着谁都可以快速创造出一个gpt3.5吗?
@Jin Feng:是的。
@老牛:以及推特能不能也这样干
@Jin Feng:你是问推特能不能用它,还是能不能开发一个类似的模型。前者是,后者不一定。
@丁恺睿:开源≠公开训练数据和fine-tuning的语料库,我觉得虽然目前用过好多宣称性能超过gpt3.5的模型了,但总感觉使用体验(回答的逻辑性、准确性和学术性)不及gpt3.5,原因感觉还是3.5的fine tuning做得很好。我们的很多国产大模型都是基于gpt3.5的之前讯飞星火还说露马脚了(不停冒英文,还给出openai的api链接)
@Jin Feng:这个公开的不光是模型,而是pretrained and fine tuned model
@韩松:Meta的首席AI科学家是LeCun,深度学习三巨头之一,实力不容小觑
@老牛:马斯克说xAI几周后会推出产品,能跟脸书这个匹敌吗
@Jin Feng:可能性0,而且根据上次的xAI 推特 space, 他们没说会在几周后发布产品,而是说有可能发布一些他们开发的工具。
@丁恺睿:数据上……我觉得wikipedia很关键
@韩松:wiki的内容比百度百科丰富很多
@丁恺睿:我不止一次看到chatgpt给我背wiki了
@@Jin Feng:所以就是自己搭的模型加自己的数据。这个。。。模型其实现在大家都差不太多,数据量、干净程度、和训练模式,才是秘密酱油(secret sauce)
丁恺睿:嗯嗯,模型都是基于transformer,虽然encoding的方式等细节上、一些超参数会有一些靠经验的改变。我觉得老马的产品可能偏向于“生产知识”(understanding the universe),原型参考Hitchhiker里面的,老马说是要去推导一些物理定律。目前的大模型还只能做到整合与利用知识。另外一个就是模型的可解释性,我觉得有可能要引入记忆力的机制(目前的model里面记忆和意识是混到一块的黑箱)
那些年轻的天才去哪了
马斯克的xAI人工智能公司,12位成员中,有4人来自中国,且都是青少年时代在中国学习,再去往美国留学的天才少年。今天的视频介绍了这4位杰出的90后,人工智能领域的大神,片子做到最后又不免感慨他们为什么不是留在国内?我们不缺天才,也许我们只是需要Understand the universe ,问出那个正确的问题




欢迎加入有趣的群聊
