2024-Q1

2024年2月

关于对写作的思考

刷推特、知乎看到了,一些关于写作的观点,觉得写的很不错,这里记录一下:

把一切想法全都写出来写下来,是一个人最好的成长利器。许多时候,我们都是被各种各样的想法困住了脚步,它们在脑海里飘来飘去,无处安放,整日一干扰着我们的思绪。其实想要解决这些漂浮不定的想法很简单,只要写下来就可以了,把它们写在纸上,这个过程就是在给自己解压,只要你愿意把心中的想法和念头写下来写清楚,就会发现在脑海里反复无数遍的 问题清晰了。

因为在我写作时,必须有一种写作的快感。这份写作的快感,只有忠于我内心、忠于我的感觉时才会产生。这种时候,写作会变得容易很多。哪怕一天都在码字,因为有这种内在的享受,所以一天结束时,我也会有一种很饱满的感觉,像是得到滋养一样。

写作是一种深度思考,当你把你脑子里想的东西写下来的时候,你就会发现你的思考更多了。from.左耳耗子

作者长期赚大钱的一个主要方法,是把持续写作当成一种自己反复推敲,深度思考的方式,提高自身决策质量,而不是惦记着如何兜售newsletter 给读者。一旦你要惦记着别人,思考就会变形,就会潜意识里开始作茧自缚,把自己拉低到和大部分浅薄读者一样的水平,各个方面变得言不由衷,这样自己其实也没法进步。这样你的思考和文字缺乏真正的灵魂,你自己实际上很清楚,真正深度思考的读者也很清楚,但评论区的各种 spammer 和 scammer 会给你虚假和廉价的喝彩,让你欲罢不能。硅谷王川 Chuan

而如果把写作当成一种和自己进行足够残酷的坦诚 ( brutally honest ) 的对话的方式,在推敲的过程中,肯定会持续挖掘出以前靠直觉的决策中的各种缺陷,各种完全错误或者不再适用的隐含假设,这样才能持续在第一时间从源头就开始改进,长期看节省了大量时间和资源,也就有时间和资源去捕捉真正高价值的机会。

一旦为别人而写作,写作就不再是思考的过程,而是思考的结果。思考的链条也就因此中断。写出来的内容不是自己经历的道理,最终会使得真实的自我和展现的自我形象差距越来越大,从而对自己愈加沮丧,同时会用更强烈的自以为是来遮掩。

阅读的终点应该是写作,阅读和写作本就是一体两面。如果说阅读是为了获取知识以及淬炼思维,那么写作本身便是深度思考的过程和结果。

划重点,做事无巨细的笔记并不是好的学习方法,用自己的语言写出来,写的过程中完善思维逻辑中的盲点,才是好的学习方法。

日志文档结构

想了一下日志文档结构的划分,虽然是不定期的随意的记录,但是一整年的日志都写到一个文件里还是太大了。按照季度 Q1, Q2, Q3, Q4 这样的形式分,感觉应该可以,三个月的不定期日志写到一个文件里面去。

备注

每个季度一个文件,每个月一个大标题,然后内部小标题,这样的目录结构既有时间的顺序,又有内容标题,也符合自己写的频率。

OpenAI大佬的言论

备注

i failed pretty hard at my first startup--it sucked!--and am doing pretty well on my second.
the thing i wish someone told me during the first one is that no one else thinks about your failures as much as you do, and that as long as don't psych yourself out you can try again.
第一个创业项目彻底失败,简直太糟糕了!不过第二个做得还不错。 我希望当初有人告诉我,没有人会像你一样一直想着你的失败,只要克服心理障碍,你完全可以再次尝试。

备注

In machine learning systems engineering, complexity always ends up lower in the long run when you tackle the gnarly low-level issues rather than sidestep them.
处理机器学习系统工程中复杂低层问题,从长远来看,总是比回避它们更能降低系统的复杂性。
Programming productivity is a precious and fragile thing stemming from great focus. Maintaining it requires active protection from the individual and organization.
程序员的效率是珍贵且脆弱的,源于高度的专注力。要保持这种效率,需要个人和组织积极维护。
Personal energy management is as important as any technical skill.
个人能量管理与任何技术技能都同样重要。
People often ask if ML or software skills are more the bottleneck to AI progress. It’s the wrong question—both are invaluable, and people with both sets of skills can have outsized impact. We find it easier, however, to teach people ML skills as needed than software engineering.
人们总是问机器学习和软件技术那个是AI进步的瓶颈,这个问题本身就问错了——两者都不可或缺,同时拥有这两类技能的人能够产生巨大的影响。然而,我们发现,相比软件工程,教授人们所需的机器学习技能更容易一些。
At a low level, there is no magic in machine learning — just lots of straightforward mathematics and systems engineering. And somehow the end result is entirely magical.
机器学习的底层原理并没有什么魔法,它仅仅是由大量直白的数学和系统工程知识构建而成。然而,令人惊叹的是,最终的结果却往往令人觉得不可思议,仿佛是魔法一般。

备注

Criticizing a decision is, to a first order approximation, 100x easier than making one
从一阶近似来看,批评一个决定比做出一个决定容易 100 倍。
The biggest trick our brains play is to create the illusion of understanding what’s going on, both around us and in the world
我们大脑最大的诡计就是制造对周围事物和世界发生的事情理解的幻觉。
A one sentence articulation (of existing ideas) for why AI alignment need not be straightforward: humans can lie, hide their intent (alignment), and do so for years. Why not AGI? This can be hard to detect.
用一句话(现有想法)阐明了为什么人工智能对齐不需要简单明了:人类可以撒谎、隐藏自己的意图(结盟),并且可以持续多年。为什么不是AGI?这可能很难被发现。
User Many believe that great AI advances must contain a new “idea”. But it is not so: many of AI’s greatest advances had the form “huh, turns out this familiar unimportant idea, when done right, is downright incredible”
许多人认为,伟大的人工智能进步必须包含新的“想法”。但事实并非如此:人工智能的许多最伟大的进步都是这样的形式:“嗯,事实证明,这个熟悉的不重要的想法,如果做得正确,也可以取得令人难以置信的效果”

很多观点非常赞同,记录一下。

LLM对于编程的帮助

看Twitter,一些编程大佬最GPT写代码的观点:

Lin Wei两种情况会觉得 gpt 写代码很有帮助:1)自己本身就不大懂;2)写大量粗浅代码。

云风我觉得现阶段用 AI 辅助编程,非常接近搜索引擎刚普及时:对部份人非常有用,很多代码一搜就有,觉得非常方便;对有些人一点用都没有,他们根本就不想拷贝粘贴搜来的代码。还有很多人鄙视后一种人,觉得他们落后于时代。

Kenneth-lee对于复杂的算法,基本没啥用,就像个番薯踢一脚滚两下,有这经历不如自己把代码写了。而对于简单的代码,倒确实可以快速给出不错的程序例子。但是这些大部分可以用搜索引擎解决,而且置信度更高。给人最大的帮助有:翻译,英文更加native;举例俗人是怎么想的,可以说就是个集大成者的俗人,但是发现新知识创新做不到。

我自己的使用体验: 对于很多粗浅代码,确实AI很方便。最适合写那种入门demo,之名算法之类的,复杂的还是说需要自己来理解。而且解决了很多环境配置的问题,估计是因为这些遇到的人太多了,AI被这些数据很好的训练了。但是高层的思考,现在还不太行。用的越多,越能理解当前LLM的优势与能力边界了。

关于文章分类

系统性的博客,可以针对性的总结几个专栏,如:Linux、ARM、QEMU,后就是高性能网络编程,web编程,AI LLM,新兴的一些语言Rust等。

有的静态博客用的是 https://www.mkdocs.org ,mkdocs也是python工程,可以从md生成静态网站,支持的格式是markdown,看起来也不错。不过决定最终还是用 rst 格式,这个更适合写结构性的文档,样式也更加的丰富。

如何保持心流

再推特上看的一个视频,现在链接失效了。大概内容是:改变姿势和环境,换地方、行走、动起来,站着办公,走路思考都是好的办法。这个出发的角度倒是从人的生理角度出发的,而不是从你做事请本身的方法,很有参考性。

当你进入专注状态的时间越长,次数越多,你的专注神经链路会不断加强,从而进入专注状态就不费力气了。也符合着复利效应。
——杨鸣《从内耗到心流》

备注

发现了1个问题,有些好的内容还真就是需要copy一份儿,互联网的URL指不定哪天就失效了。

OpenAI Sora研发团队

他们的Twitter:

大脑上瘾回路

参考: https://twitter.com/Michael_Easter/status/1708124980498833917

让人上瘾的“稀缺回路”有三部分:

  1. 潜在机会。

  2. 无法预测的奖励。

  3. 可以快速重复。

另外,人脑的一个缺陷是,把赌一块钱赢80分的游戏也视为一种奖励 (虽然实际上亏了钱),这给老虎机的设计者以可乘之机。

自我意识与心流&幸福感

根据 想要达到心流状态?或许可以尝试这样做

自我感觉的本质仍然只是一种幻觉。时不时的摆脱自我意识可能会带来健康的后果。

放下自我

备注

自我意识

拥有自我意识是一种深刻的人类特征,它帮助人类进化并促成了社会的正常运转。自我意识与复杂的语言发展共同帮助我们构建心理形象,让我们有幻想未来的可能性。这种能力让我们能够为未来的事件提前做好准备,并做出更好的决定。但也有研究表明,暂时放下自我意识会对我们的心理健康产生积极影响。

放下自我,也被神经科学家称为自我消解,是一个范围很大的概念。从“在书中迷失自己”到“在迷幻中体验自我的丧失”,都属于 自我消解的一部分。

心流

当我们忙于一项任务以至于我们暂时忘记自己时,就会出现一种比较轻的自我消解形式。在你意识到这一点之前,时间已经过去了,例如有时你会忘记吃午饭。心理学家米哈里·契克森米哈(Mihaly Csikszentmihalyi)将这种感觉称为“心流”,因为它像水流般毫不费力。有时你如此专注于一项活动,以至于工作暂时占据了你的全部。

契克森米哈用“大脑的加工能力是有限的”来解释这种脱离实体的状态。我们一次只能吸收一定量的信息,这就是为什么大多数人在处理多任务时会表现地如此糟糕。当你全神贯注于一项需要你集中精力的活动时,大脑就不再能够处理关于自我的信息——比如你此时是否饿了、是否感到痒和痛、你打算周末做什么等诸如这类有关自我意识的事情。

迷幻药会抑制大脑中的“自我体验”,诸如神奇蘑菇中的精神活性物质——裸盖菇素等药物可以对心理健康产生长期的积极影响。这项在约翰霍普金斯大学进行的研究发现,裸盖菇素能够有效地激发我们的神秘体验。这种体验的主要特征之一是自我丧失,并通常伴随着与自然或宇宙统一的感觉,也就是所谓的宇宙意识。有趣的是, 自我丧失的程度越大,对参与者未来心理健康的影响就越积极。

default mode network (DMN)

https://en.wikipedia.org/wiki/Default_mode_network

伦敦帝国理工大学的一项使用功能性核磁共振(fMRI)的研究表明,摄入裸盖菇素后,个体与自我丧失有关的默认脑网络(DMN)活动会减少。DMN 是大脑的一部分,会在我们的思绪徘徊时或在自我反省和反刍期间处于活跃状态。有时这也被称为“自我网络”。由于这个大脑网络最近才被发现,对于这个网络的实际组成脑区,科学家们的意见还不一致。

相反,有研究发现重度抑郁症患者会报告更多的DMN激活。重度抑郁是一个以病理性反刍为特征的疾病,DMN的大量激活在这个病中出现也并不奇怪。用迈克尔·波伦(Michael Pollan)在他的书——《How to change your mind(如何改变你的心智)》中的话来说,自我反省和反刍的倾向会导致自我向内消耗,并用消极的思想掩盖对现实真正的反思。

研究者在对长期做冥想的参与者大脑进行fMRI 扫描,也发现了类似DMN活动的下降。佛教的核心思想之一是失去自我以达到开悟或涅槃,这种“失去自我”的过程是通过定期冥想而培养来的。

研究发现,我们的思绪飘移得越远越杂,我们就越不快乐。在一项被广泛引用的研究中,哈佛的研究人员马修﹒基林斯沃思 (Matthew Killingsworth) 和丹尼尔﹒吉尔伯特 (Daniel Gilbert) 使用手机应用程序收集有关幸福的数据。该应用程序会在随机的时间询问参与者他们的感受以及他们现在正在做什么。无论何时,当参与者的思维处于游荡状态时,他们的情绪都会处于最低水平。并且,参与者通常一天中会有47%的时间处于这种白日梦游荡状态,即使是在做饭或看电视的时候也是如此。而当参与者在锻炼、发生性关系或与朋友聊天时,大脑中的声音是最安静的,情绪也会随之提升。

走神是当没有什么东西占据我们注意力时我们会做的事情,比如当我们在公共汽车上,在淋浴时,在会议上。而当我们真的对某件事投入注意力的时候,就不会发生这种情况。这是大脑的首选策略,也是它的默认设置,同时也是DMN活动增加后产生的结果。

正念技巧可以帮助我们减少走神的状态,并将我们的注意力集中在我们周围实际发生的事情上。通过调动所有感官——感受阳光照射在你皮肤上的温暖、倾听树叶嘎吱嘎吱的声音和鸟儿的鸣叫——我们可以让内心的独白安静下来,感受当下。

芯片与Infra

展望一下未来的高速发展行业:

  • AI LLM持续突破,感谢OpenAI给世界带来的持续震撼,随之而来会有AI应用、AI Infra(芯片、系统框架软件等)的持续爆发;

  • 新能源汽车的爆发,引领汽车工业向智能化和电气化持续发展,2024年2月比亚迪发布的7万多的秦将会加速这个进程;

  • 新的消费电子设备、苹果VisionPro,AI机器人等等;

那么随之而来,ARM、RISC-V体系结构,AI芯片结构,Linux以及各种定制OS,虚拟化、驱动等系统软件工程师估计需求会有增长,这些领域知识向兼容的,因为涉及到了最底层的原理,涉及到了芯片层的知识,不会变化那么快,而且有很多经验性的知识长期有用。这样看这个领域的经验相对会更加保值一点,从战略角度看,长期积累应该有价值。如果有这些行业经验,不防专注继续做专做精。

在芯片领域,对于软件程序员可以切入的:仿真虚拟化、驱动、操作系统等领域,比如:

  • 操作系统与驱动,这个涉及软硬件垂直整合,需要对体系结构和各种领域硬件熟悉、比如ARM/RISC-V/AI芯片驱动等;

  • EDA仿真,这个就是行业软件,市场空间小的行业软件市场,涉及芯片开发验证等;

  • QEMU功能仿真,可以跑起来完整的操作系统,包括BIOS、Hypervisor等,适合SoC驱动、操作系统、BSP等工程师掌握和使用;

  • gem5性能仿真,带时序和内存模型等,也能完整抛弃操作系统,更贴近芯片开发工程师,主要是给芯片设计做量化参考分析;

  • Linux和各种RTOS操作系统,只要是涉及了芯片硬件,那么对操作系统的掌握就是必须的,如果涉及了ISA,还有编译器相关;

  • 系统Infra软件,这个就是系统层的软件,各种芯片驱动、贴近硬件级的框架软件等;

而对于传统的互联网业务,基本还是手机APP、高并发网络编程、数据库、虚拟化、微服务等等各种软件,这些随着各种框架的进步,实现一些普通的互联网业务功能,对于技术的要求反而会降低。而且,对于互联网整个行业的大盘子,社交、游戏、电商、视频等能被挖掘的需求基本都已经被各个厂商攻城略地圈占完了。高价值的大盘子的需求目前看没那么多了,现在具有想象力的就是AI了,看看后续能带来哪些划时代的应用出来。

沟通会触发主动思考

今天和一个北大的哥们就一个领域交流,然后交流讨论的过程中,我感觉我就说出了很多我想说出的“深刻的道理”,而且总结理解的到位,之前总是很零散的停留在自己的大脑中。仔细回想,这种场景还挺常见,文字沟通和语音沟通都会有这个现象,那么这背后必然有个生理规律在,至少对我来说是。

这个规律就是:沟通交流,不管是文字的还是语音的,会触发大脑对所讨论领域知识的一个系统的调用总结思考,让你有更多的思考和理解,甚至会让你突然灵感迸发或者顿悟。我觉可能大脑语言中枢活跃时,间接辅助了逻辑思维和记忆回想吧。

基于github的静态网页

今天看Sora大佬的个人网页,之前在Twitter刷到了他们的列表,see: OpenAI Sora研发团队
看到了 William (Bill) Peebles的个人页面: https://www.wpeebles.com/
在他的github上找到了网页源码: https://github.com/wpeebles/wpeebles.github.io

这个挺不错的,大佬也用的github托管的静态网页,部署和发布都挺方便的。应该使用的是 https://docs.github.com/zh/pages 服务。这个也挺方便的。

对了自己现在用的是 readthedoc 的 Sphinx 服务,这个也支持 MkDocs 服务:

后续都是建立静态内容网站的不错的选择。缺点可能就是不那么方便评论留言了,或者可以给自己的公共社交网络印个流等。

2024年3月

战略思考

战略需要聚焦。面面俱到很难精通,毕竟人的精力是有限的。尤其,对于复杂的需要深度思考的有壁垒的事情,需要保证好平时的战略投入,而且是聚焦的投入。用道德经的模型来思考,道的表面呈现有很多名,求名失道,反者道之动,弱者道之用。当我定好了自己的长期战略目标,我就要平时做事从战略维度思考,不能被其他的名给左右。

给重要的事情留下时间。不要反复做自己熟悉的事儿。

关于房产

看了几个帖子,之前高位买房,房价大跌后带来了很大的负债。

在2024年的中国一线城市,我感觉最优的策略是:在自己收入范围内买个无经济压力的房子,因为房子绑定了户口等,而且有个自己的房子,住起来也舒服,可以买各种需要的,也不会有紧急时期找不到房子的情况发生。然后,配合租房子,没有高负债压力,也更加灵活便宜,这样又可以解决工作里买的房子远,老人过来有时候来住不方便等问题。这样比上车那种很贵的房子灵活的多,压力也小的多,毕竟长期房子是看跌的。

回想一下在2018年前后,我听到的身边的人讲的关于买房的看法都是:尽最大可能贷款买个好的,用好首套房的房票贷款资格,配合各种套消费贷凑。尤其是买过房的老员工给的经验都是后悔第一次买房没有把贷款拉满,保守了。现在2024再看,只能说当时经济一片欣欣向荣时,大家还想不到房地产的大拐点这么快就要来了,而且人云亦云的看法也就对吗?战略决策一定要顺应时代潮流,当时已经有迹象表明人口、经济可能后面都会进入下行周期了,地方债务都快极限了,房价的拐点大趋势是明显的,只不过人们一般没法想那么远,更加还是以来现状和历史的经验去做想问题,去做决策,而不去思考这么明显的未来的趋势。