Первая в Пекине фабрика токенов (Token) – Пекинская фабрика токенов №1 – была официально внедрена 10 июня в пекинском Ичжуане. В будущем вычислительная мощность станет такими же стабильными и общедоступными ресурсами, как и электроэнергетика.

Токен является минимальной единицей текста, обрабатываемого ИИ. Вычислительная мощность представляет собой вычислительную способность сервера. Чем выше вычислительная мощность, тем больше токенов может быть обработано в секунду, вслед за чем снижается эксплуатационная себестоимость. В эпоху искусственного интеллекта вычислительная мощность уже стала одним из ключевых показателей комплексной мощи государства.

В отличие от поточных линий традиционных фабрик фабрика токенов состоит из множества серверов. Ежедневная производительность токенов первой очереди проекта может достичь 1,4 трлн. Долгосрочной целью фабрики является достижение ежедневной производительности в 10 трлн токенов. В будущем фабрика с базами зеленого электричества в Чжанцзякоу, Уланчабе и других городах будет прилагать совместные усилия для создания интегрированного кластера вычислительной мощности в регионе Пекин-Тяньцзинь-Хэбэй, что позволит продолжить увеличение вычислительной мощности в соответствии с масштабами и значительно снизить порог для использования вычислительной мощности ИИ во всех отраслях.

Фабрика токенов может осуществлять непрерывную работу в режиме 24/7, демонстрируя превосходные ключевые показатели отклика. На половину задач можно откликнуться в течение 6 секунд, а для 90% задач время отклика составляет менее 10 секунд, волатильность контролируется в пределах 20%, и она полностью адаптирована к различным сложным сценариям ИИ.

Внедрение Пекинской фабрики токенов №1 в пекинском Ичжуане не только восполнило недостаток в поставке высококачественной крупномасштабной вычислительной мощности в стране, но и установило отраслевой шаблон в области обслуживания и оценки вычислительной мощности, оно также будет способствовать дальнейшей концентрации предприятий всех звеньев производственной цепочки ИИ и дальнейшему совершенствованию производственной цепочки регионального ИИ.

С внедрением фабрики был одновременно опубликован первый в Китае бенчмарк производительности для фабрики токенов, который доступен с открытым исходным кодом для всей отрасли. Данный бенчмарк преодолеет хаотичность действующих отраслевых стандартов, сократит потерю ресурсов и будет способствовать нормализированному и стандартизированному развитию индустрии вычислительной мощности ИИ в стране.

Официальный аккаунт Управления коммерции города Пекин в Wechat «Кайфан Бэйцзин» («开放北京»)