Inkling：我们的开放权重模型

Inkling：我们的开放权重模型

Mira Murati 的 Thinking Machines Lab 刚刚发布了他们的首个开放权重模型。Inkling 是一个 "总参数量 975B、激活参数量 41B 的混合专家（Mixture-of-Experts）Transformer"，采用 Apache-2.0 许可的多模态模型，在 45 万亿 token 的文本、图像、音频和视频数据上训练而成。他们还预告了 Inkling-Small，一个 276B（12B 激活参数）的模型，但该模型仍在测试中，权重将在 "相关工作完成后" 发布。

模型卡比我预想的美国 AI 实验室的惯例要简短得多。它链接到更简短的训练数据文档，其中几乎没有任何有价值的信息——用以下两段话即可概括：Thinking Machines Lab 用于开发其 AI 服务的数据集包括公共领域的内容，以及可能受知识产权保护的内容。Thinking Machines Lab 的服务是利用从开放互联网和公开数据存储库获取的公开可用内容开发的。某些数据集也从第三方获取。

Thinking Machines 自己承认，这并非前沿模型。相反，它旨在作为一个强大的基础模型，用于通过他们自己的 Tinker 训练平台进行微调：Inkling 并非当今可用的最强整体模型，无论开放还是封闭。相反，多种特性的结合使其成为适合定制的良好开放权重基础：多模态能力、高效推理，以及可在 Tinker 上进行微调。

这次发布有很多值得称道之处。它采用 Apache-2.0 许可，看起来与中国出品的开放权重模型具有竞争力——很高兴看到美国开放权重生态系统迎来一个新的可行竞争者，加入 NVIDIA Nemotron 和 Gemma 4 的行列。

以下是我通过针对 Thinking Machines API 的 curl 命令生成的 SVG 鹈鹕骑自行车图：

curl "https://tinker.thinkingmachines.dev/services/tinker-prod/oai/api/v1/chat/completions" \
  -H "Authorization: Bearer $TINKER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "thinkingmachines/Inkling",
    "messages": [
      {"role": "user", "content": "Generate an SVG of a pelican riding a bicycle"}
    ],
    "stream": false
  }'

完整响应见此处。

由于这是一个多模态模型，我将其渲染为 JPEG 后，通过发送以下 JSON 让它描述自己的图像：

{
  "model": "thinkingmachines/Inkling",
  "messages": [{
    "role": "user",
    "content": [
      {
        "type": "image_url",
        "image_url": {
          "url": "data:image/jpeg;base64,$BASE_64_JPEG"
        }
      },
      {
        "type": "text",
        "text": "Describe this image in detail"
      }
    ]
  }],
  "stream": false
}

完整响应见此处。它认为自己画的是 "一只鹳或海鸥"：

这是一幅欢快的扁平矢量卡通插画，描绘了一只白色鸟儿骑着自行车穿过绿色风景。鸟儿：中心角色是一只风格化的白色鸟儿——类似鹳或海鸥——身体丰满圆润。它有一个长而突出的橙色喙，微微张开，露出黑色的嘴线。眼睛小而黑，带有一个微小的白色高光。鸟儿的翅膀和尾羽为黑色，边缘白色，细长的橙色腿末端是黑色的脚，踩在自行车的橙色脚踏板上。自行车：自行车有一个简单的黑色车架，两个大轮子配有黑色轮胎、灰色内圈和十字排列的黑色辐条。车把是黑色的，黑色曲柄上连接着亮橙色脚踏板。鸟儿身体后方可见一个白色车座。场景：场景以清澈的浅蓝色天空为背景。有两朵蓬松的白云——一朵在左侧，另一朵较小，靠近鸟儿头部右侧。右上角有一轮明亮的纯黄色太阳。底部是起伏的绿色山丘，自行车停放在平滑弯曲的顶部边缘。整体风格俏皮、简洁、色彩丰富，线条干净，氛围明亮阳光。

via Hacker News

标签：ai, generative-ai, llms, training-data, pelican-riding-a-bicycle, llm-release