Ilya Sutskever, 前OpenAI联合创始人, 在9月4日宣布其创立的AI初创公司SSI获得了NFDG、a16z、红杉美国、DST Global和SV Angel等投资者的10亿美元融资, 估值达50亿美元。这笔资金将主要用于建立“安全”AI模型的新业务, 包括招聘人才和开发AI模型。SSI专注于构建通往“安全超级智能”的途径, 旨在与OpenAI、Anthropic和Elon Musk的xAI等成熟公司竞争。Ilya强调, 公司致力于打造既高效又能保障安全的AI技术。 在AI发展引起全球关注之际, Ilya的行动反映了对AI潜在风险的担忧。全球范围内, 包括中国在内的国家共同签署了《布莱切利宣言》, 表明了对AI可能带来的灾难性风险的重视。然而, 不同国家和行业在如何监管AI方面存在分歧, 导致讨论激烈。面对AI的快速发展, Ilya成立SSI, 旨在通过技术和科学突破解决AI安全问题, 并确保在提高性能的同时, 安全性始终领先。 此外, AI技术的滥用和误用已经显现, 如Deepfake技术在韩国引发的隐私侵犯事件, 引发公众对AI伦理和监管的强烈关注。面对这些问题, 科研人员如张欣怡等也开始积极研发技术对抗AI潜在的负面影响, 展现出科技界对AI伦理问题的重视和应对策略。