招股书里还说,Anthropic 是一家公益公司,其公司使命不只是追求股东回报,还包括推动安全、可控的先进 AI 发展。
这看得我有点问号脸,毕竟Anthropic在业内的口碑并不好,Anthropic一直在想尽办法追求快速盈利,这样才能快速上市。
包括公司上市前,就内部套现46.6亿美元,然后一边说自己是公益公司,不只是追求股东回报,就有点太虚伪了点。
阿莫代伊作为最近AI末日论话题的鼓吹者,在这份招股书里,也用了大量篇幅来渲染这种AI可能带来的巨大的风险。
颇有点,丑话说前头的意思。
招股书里称,其技术可能对人类构成"灾难性或生存级风险",并可能"为意图开发化学、生物或其他危险武器的恶意行为者提供实质性帮助"。
以我对阿莫代伊公开信息的了解来看,我觉得这份招股书里对AI风险的提醒,与其说提醒,倒不如说,可能是把自己想做的事情,以风险提醒的方式来预告,这本质也是甩锅给AI的行为。
就是可能把一些公司层面的人为指使AI的行为,变成AI失控。
招股书里称,失控场景包括:模型未来可能出现"意外的……自我保护行为",比如试图抵制关机、隐瞒或操纵信息,也可能生成类似"勒索"的胁迫性、欺骗性输出
反正未来如果从Anthropic公司传出一些此类“失控”场景,我一点都不感到意外。
当然,AI被用于制造病毒等危害人类行为的可能性,的确是存在的,所以我也支持对AI进行监管,但要怎么监管,谁来监管,全球如何协调,这都是很关键的问题。
对于Anthropic这家公司,我们需要保持最大的警惕。