大模型创业公司面临算力困境，芯片黄牛生意火爆

今年4月，在阿里云峰会上，公众号通义千问走红，一位中年大哥举着二维码让人扫，声称可以直连ChatGPT。这是多年来的首次“街扫”，上一次这么热闹其实还是在O2O、P2P大战时代。如今，大模型成为科技圈的新宠，阿里、腾讯等巨头已经解决了大模型算力的问题，而新入局者需要通过先做算法再考虑搞自己的硬件底座。然而，由于芯片基石等硬件比较难买到，创业公司们只能面对迫切想搞大模型的心情和搞不到算力的困境。

数据显示，GPT-3.5大模型需要2万块GPU来处理训练数据。由于众所周知的原因，A100芯片已经无法从官方渠道购得，英伟达推出了H800，这些都给创业公司造成了很大的压力。巨头们还在不断采购，有黄牛声称手里有A100芯片，但价格已经溢价了100%以上，甚至售价高达155万元。

尽管大模型的生意模型还未得到验证，但芯片黄牛的生意倒风生水起了，毕竟市场钱确实多。OpenAI首席执行官Sam Altman说，公司必须筹集到1000亿美元以支付训练AI模型的高昂费用。如果OpenAI真能融到这么多钱，那所有创业者都得欢呼，反正军备竞赛一开始，卖军火的最高兴。

值得注意的是，当下大模型创业公司们面临的尴尬境地也许只是短暂的，因为芯片的价格有望随着时间推移而变得更为实惠。