AnythingLLM is een AI-applicatie waarmee u met uw eigen documenten kunt chatten en AI-agents inzet, zonder veel configuratie. U gebruikt het als desktopapp voor macOS, Windows en Linux, of draait het met Docker op eigen servers voor omgevingen met meerdere gebruikers. Het werkt met lokale modellen en met externe taalmodel-, embedding- en vectordatabaseaanbieders naar keuze. Daarnaast is er een Android-app en biedt de aanbieder een gehoste variant.
AnythingLLM wordt onderhouden door Mintplex Labs, Inc., een Amerikaans bedrijf, en is open source onder de MIT-licentie. Volgens de aanbieder verlaten documenten uw apparaat niet bij lokaal gebruik; de webzoekfunctie gebruikt wel de externe dienst You.com. Standaard verzendt de software anonieme gebruiksstatistieken via PostHog, zonder inhoud van gesprekken of documenten. Dat zet u uit met de instelling DISABLE_TELEMETRY. Bij zelf hosten bepaalt uw organisatie waar gegevens staan; kiest u een externe modelaanbieder, dan gaan prompts naar die aanbieder.