OctoML mění modely umělé inteligence na „přenosné softwarové funkce“ s novou verzí platformy

0
OctoML mění modely umělé inteligence na „přenosné softwarové funkce“ s novou verzí platformy

Společnost OctoML Inc. aktualizovala svou platformu pro vývoj umělé inteligence o nové funkce, které mají usnadnit práci týmům podnikového softwaru.

OctoML se sídlem v Seattlu byla založena v roce 2019 skupinou výzkumníků z University of Washington. Od té doby startup získal více než 130 milionů dolarů na financování od investorů. OctoML poskytuje platformu, která dokáže automaticky optimalizovat modely umělé inteligence za účelem zvýšení rychlosti zpracování dat.

Podle OctoML aktualizace, kterou dnes pro svou platformu zavádí, umožní zákazníkům přeměnit jejich modely AI na „přenosné softwarové funkce“. Výsledkem, říká startup, bude zjednodušený pracovní postup vývoje softwaru.

Technická omezení historicky vyžadovala, aby vývojáři sestavovali a spravovali modely umělé inteligence pomocí jiných nástrojů, než jaké obvykle používají v jiných aplikačních projektech. To může ztížit práci vývojářů. OctoML říká, že jeho technologie přenosných softwarových funkcí umožňuje zákazníkům vytvářet a spravovat modely umělé inteligence pomocí mnoha stejných nástrojů, jaké používají v jiných aplikačních projektech, což zjednodušuje pracovní postup vývoje.

Některé funkce v nové verzi platformy startupu jsou poháněny technologií Triton společnosti Nvidia Corp. Triton umožňuje společnostem používat Kubernetes ke správě infrastruktury, na které běží jejich modely AI. Tato technologie také spolupracuje s Prometheus, populárním softwarovým systémem pro detekci a odstraňování chyb aplikací.

Další klíčovou vlastností Tritonu je, že je kompatibilní s více typy procesorů. Model AI poháněný Tritonem může běžet na grafických procesorových jednotkách od Nvidie, stejně jako na procesorech a čipech Intel Corp. založených na plánech Arm Ltd.

„Dnešní manuál, specializované pracovní postupy nasazení ML udržují vývojáře aplikací, inženýry DevOps a provozní týmy IT na vedlejší koleji,“ řekl spoluzakladatel a generální ředitel OctoML Luis Ceze. „Naše nové řešení jim umožňuje pracovat s modely, jako je zbytek jejich zásobníku aplikací, pomocí vlastních pracovních postupů a nástrojů DevOps.“

Nové funkce, které OctoML zavádí, doplní stávající funkce jeho platformy pro optimalizaci modelů AI. Platforma využívá strojové učení k nalezení způsobů, jak zvýšit výkon neuronové sítě. Poté aplikuje optimalizace bez nutnosti ručního zadání vývojáře.

Zvýšení rychlosti modelu AI umožňuje rychlejší přeměnu dat na přehledy. Optimalizace výkonu také umožňuje snížit náklady organizace na infrastrukturu. Pokud optimalizace neuronové sítě zdvojnásobí její výkon, pak může neuronová síť generovat přehledy stejnou rychlostí jako dříve s využitím poloviční infrastruktury.

OctoML tvrdí, že jeho platforma dokáže dělat modely AI až 30krát rychlejší. Automatizace procesu optimalizace umělé inteligence navíc šetří čas vývojářům, protože není třeba hledat manuální způsoby, jak zefektivnit kód neuronové sítě.

Obraz: OctoML

Ukažte svou podporu našemu poslání tím, že se připojíte k našemu klubu Cube Club a komunitě odborníků Cube Event Community. Připojte se ke komunitě, která zahrnuje Amazon Web Services a generálního ředitele Amazon.com Andyho Jassyho, zakladatele a generálního ředitele společnosti Dell Technologies Michaela Della, CEO společnosti Intel Pat Gelsingera a mnoho dalších osobností a odborníků.

podobné příspěvky

Leave a Reply