Chroma ist eine quelloffene Such-Infrastruktur für KI-Anwendungen. Sie unterstützt Vektor-, Volltext-, Regex- und Metadatensuche und dient vor allem dazu, Embeddings in Anwendungen mit großen Sprachmodellen zu speichern und abzufragen, etwa für Retrieval-Augmented Generation. Chroma gibt es als Python- und npm-Paket; es läuft eingebettet in Ihrer Anwendung, als eigenständiger Server oder als gehosteter Serverless-Dienst, Chroma Cloud, der laut Hersteller SOC-2-Type-II-konform ist. Daneben gibt es Single-Tenant-Bereitstellungen und Bring-your-own-Cloud in der eigenen VPC.
Die Kernsoftware steht unter der Apache License 2.0, sodass Sie Chroma vollständig selbst hosten können. Das Unternehmen dahinter sitzt in San Francisco, weshalb für das verwaltete Angebot US-Recht gilt. Chroma Cloud läuft in zwei Regionen: AWS US East und GCP Europe West 1 in Belgien. Eine Datenbank wird in einer gewählten Region angelegt und bleibt dort; laut Dokumentation werden die Daten vollständig in dieser Region gespeichert und verarbeitet. Um die Abhängigkeit von einem US-Anbieter zu begrenzen, ist Self-Hosting auf europäischer Infrastruktur möglich.