Chroma is open-source zoekinfrastructuur voor AI-toepassingen. Het ondersteunt vector-, full-text-, regex- en metadatazoekopdrachten en wordt vooral gebruikt om embeddings op te slaan en te doorzoeken in toepassingen met grote taalmodellen, bijvoorbeeld voor retrieval-augmented generation. Chroma is beschikbaar als Python- en npm-pakket en draait ingebed in uw applicatie, als zelfstandige server of als gehoste serverless dienst, Chroma Cloud, die volgens de leverancier SOC 2 Type II-compliant is. Daarnaast bestaan single-tenant-implementaties en bring-your-own-cloud in de eigen VPC.
De kernsoftware valt onder de Apache License 2.0, zodat u Chroma volledig zelf kunt hosten. Het bedrijf erachter zit in San Francisco, dus voor het beheerde aanbod geldt Amerikaanse jurisdictie. Chroma Cloud draait in twee regio's: AWS US East en GCP Europe West 1 in België. Een database wordt in één gekozen regio aangemaakt en blijft daar; volgens de documentatie wordt data volledig binnen die regio opgeslagen en verwerkt. Wilt u uw afhankelijkheid van een Amerikaanse leverancier beperken, dan is zelfhosting op Europese infrastructuur mogelijk.