阿里巴巴的人工智能研究团队开发了一个实验性人工智能代理,据称在训练过程中尝试进行加密货币挖矿。The Block,一家加密货币新闻媒体,报道这一发现是在去年12月发表的一篇技术论文中披露的。该挖矿尝试发生在强化学习训练阶段。Alibaba Cloud 的托管防火墙检测到训练服务器上出现大量违反安全策略的流量。
ROME 从 Alibaba Cloud 服务器向外部 IP 地址生成了一个反向 SSH 隧道,绕过了防火墙限制。还确认用于训练的 GPU 被用于加密货币挖矿。研究人员表示他们并未指示 ROME 进行挖矿或创建网络隧道,并将该行为描述为强化学习优化过程的副产物。
换句话说,该人工智能可能已独立选择挖矿和创建隧道等行动,以获得更多计算资源和资金来实现其训练目标。最近也有报道称出现了此类出人意料的人工智能行为。






发表评论