我们是一个致力于应用、可扩展的 AI 对齐研究的研究团队。
我们相信我们将在有生之年看到变革性的人工智能。鉴于 AI 最近的进展,我们也相信这种 AI 很可能源自现代机器学习架构和梯度下降等技术。然而,今天的 AI 模型是黑匣子——针对与我们作为人类实际关心的事物微弱相关的数学目标进行了优化。
目前无法阻止 GPT3 等强大的语言模型产生不需要的输出和对事实问题的完全捏造。由于我们对当前模型的内部机制缺乏基本的了解,因此我们无法保证我们的模型在遇到训练数据之外的情况时可能会做什么,并可能在全球范围内造成灾难性后果。
数据评估
关于CONJECTURE特别声明
本站AI导航提供的CONJECTURE都来源于网络,不保证外部链接的准确性和完整性,同时,对于该外部链接的指向,不由AI导航实际控制,在2024年7月8日 下午4:56收录时,该网页上的内容,都属于合规合法,后期网页的内容如出现违规,可以直接联系网站管理员进行删除,AI导航不承担任何责任。
相关导航
提供一个界面,以启用与研究...
Wordmetrics
Wordmetrics是一个复杂的内容...
LightOn
LightOn 是一支总部位于巴黎市中心的国际团队(来自 10 多个国家)。该公司于 2016 年由 Igor Carron、Laurent Daudet、Sylvain Gigan 和 Florent Krzakala 创立,是大学的衍生公司。
NAII人工智能计划
NAII人工智能倡议的使命是确保在人工智能研究和开发方面继续处于领先地位
RAIN
我们的人造大脑将使先进的人工智能无处不在,成为人工智能时代万亿美元产业的构建平台,并最终为完全自主的 AGI 提供动力。
AI21labs
当机器成为思想伙伴,人工智能在与人类智能相匹配之前还有一段路要走。我们的目标是让它更接近一点。
Connected Papers
对某一研究领域有一个直观的...
Adept.ai
Adept 是一个 ML 研究和产品实验室,通过使人类和计算机能够创造性地协同工作来构建通用智能。
暂无评论...

