开源意识流

观点与事件:科技、开源、商业化

AI搞安全:最强互搏?


By Forsaken

随着 ChatGPT 的营销事件不断升温,一些混混噩噩的程序员也开始担心起自己的工作安全来,毕竟对于那些没有真才实学整天玩弄 KPI 过活的人来说, AI 刷 KPI 可是厉害多了。甚至程序员群体一度开始不断讨论起 AI 彻底淘汰程序员的事情。

不过,心虚自己吓自己是一回事,软件开发的工业化要求则是另一回事。用 ChatGPT 包个故事忽悠投资和流量也许更简单点,想要在现代软件产业聊开发和交付,不可避免要谈论软件供应链安全。

尽管软件供应链安全已经被各国拿到台面上大举说事,在信息时代的国家安全在全新的安全情景下也是摇摇欲坠,在幻想 AI 替代程序员之前,也许应该先考虑下 AI 和软件供应链之间的矛盾问题。

假如 AI 真的替代了程序员,那么 AI 势必还得同时承担安全验证的工作,目前而言,ChatGPT 还不是那块料。另一方面,基于公有云的 AI 有没有可能被恶意调教产生难以察觉的恶意代码,这些都是悬而未决的问题。总之,在天朝呆久了,也许真的以为如今的软件开发就是天朝式的软件开发,这碗饭可能太好吃了,以至于某些程序员自己都有点开始看不起自己了。

从安全防御方面来考量的话,是否可以借助 ChatGPT 来帮助客户有效降低沟通门槛,提升交付的安全品质,也是一个值得探讨的话题。某些团队在云原生安全方面设计了新的编程语言,可是过于小众,试图利用 ChatGPT 帮忙说点人话增进理解,似乎是个不错的点子。

人类毕竟走向了一个新时代,由于计算机系统的复杂性增加,人类越来越没有本事在计算机领域说人话,现在要借助 AI 来说人话,仿佛 AI 比人更懂人话。

过几年人类要通过图灵测试才有资格跟计算机沟通,怕也是完全可能了。