Together AI API voor modellen en cloudinfrastructuur

Eenvoudig uitgelegd: wat doet Together AI?

Together AI voert AI-modellen in de cloud uit voor je eigen software. Je app stuurt bijvoorbeeld een vraag of een ondersteunde afbeelding en krijgt een antwoord of gegenereerde inhoud terug. Met de gehoste API hoef je geen eigen GPU te kopen of modelserver te onderhouden.

Het platform van Together Computer, Inc. is bedoeld voor ontwikkelaars en machinelearningteams. Je kunt er assistenten, extractiefuncties en generatieve toepassingen mee bouwen en modellen met eigen gegevens aanpassen. Je team blijft de interface, bedrijfslogica en kwaliteitscontrole verzorgen.

Capaciteit kiezen op basis van je werkbelasting

Serverless past bij experimenten en wisselend verkeer. Together beheert de infrastructuur, maar de prestaties zijn best-effort. Bij 429 of 503 moet je pieken afvlakken en beperkt opnieuw proberen met oplopende wachttijden. De uitvoeringsregio is bij serverless niet te kiezen.

Voor werk zonder directe antwoorddeadline kun je Batch gebruiken. Maak JSONL met een unieke custom_id per verzoek, upload het bestand, start de taak en volg de status. Download daarna resultaten en fouten en koppel ze via de ID’s aan de invoer. De Batch-handleiding beschrijft de details.

Provisioned Throughput reserveert modelcapaciteit met afgesproken doelen. Dedicated Model Inference gebruikt toegewezen GPU’s. Vergelijk bezettingsgraad, latentie, regio en contractduur voordat je capaciteit vastlegt.

Wat betaal je voor gebruik en gereserveerde resources?

Gecontroleerd op 12 oktober 2026: de zelfbediening werkt met vooraf gekocht tegoed en de officiële documenten noemen geen algemene gratis proefperiode. Helpcentrum en ontwikkelaarsdocumentatie spreken elkaar tegen over het minimale eerste aankoopbedrag. Bekijk daarom het bedrag in je account. Een model met een nultarief maakt het hele platform niet onbeperkt gratis.

De openbare prijzen zijn in Amerikaanse dollars. Tekstmodellen hebben afzonderlijke invoer- en uitvoertokentarieven; media kennen andere eenheden. Gereedstaande dedicated replica’s kosten geld op basis van tijd, ook als ze niets verwerken. Fine-tuning rekent verwerkte trainings- en validatietokens, waarna hosting apart wordt afgerekend. Clusteropslag is eveneens een afzonderlijke kostenpost.

Gebruik de actuele prijslijst en tegoedregels voor je eigen volumes. Stop of verklein ongebruikte deployments.

Bij fine-tuning tellen trainings- en validatietokens mee; model, methode en eventuele minimumbedragen beïnvloeden het tarief.

Een werkende API-aanroep opzetten

1. Maak een account, controleer de saldovereisten en maak in de API keys-pagina van je project een sleutel aan. Bewaar de volledige waarde direct: die wordt eenmaal getoond.
2. Stel TOGETHER_API_KEY in als omgevingsvariabele. Gebruik de officiële Python- of TypeScript-SDK, of REST.
3. Kies een actuele model-ID en stuur een chatverzoek met model en messages. Controleer de teruggestuurde berichtinhoud.
4. Probeer echte voorbeelden en vergelijk kwaliteit, wachttijd en tokengebruik voordat je de functie uitrolt.

De officiële startgids bevat uitvoerbare voorbeelden. Ondersteunde OpenAI-SDK-methoden kunnen een Together-sleutel en https://api.together.ai/v1 als basisadres gebruiken, met een passende Together-model-ID. Controleer de compatibiliteitsdocumentatie.

Ondersteunde modellen leveren JSON volgens een schema. Function calling geeft functienamen en argumenten terug; je eigen applicatie controleert en voert de actie uit. Afbeeldingen, contextlengte en hulpmiddelen worden niet door ieder model op dezelfde manier ondersteund.

Een model trainen op je eigen voorbeelden

Fine-tuning ondersteunt LoRA of aanpassing van alle gewichten, met supervised training of DPO op voorkeursdata. Bereid passende JSONL- of Parquet-data voor, upload ze en wacht op validatie. Kies vervolgens een basismodel en instellingen en bekijk de kostenraming.

Vergelijk na training de uitkomsten met het oorspronkelijke model op apart gehouden voorbeelden. Je kunt het resultaat op een dedicated endpoint hosten of een checkpoint downloaden. Volg de fine-tuninggids; kwaliteitswinst is geen garantie.

GPU-clusters met Kubernetes of Slurm en blijvende opslag zijn beschikbaar voor bredere trainingswerkzaamheden. Daarvoor heb je meer infrastructuurkennis nodig dan voor een API-integratie.

Gegevensopslag en training zijn verschillende keuzes

Opslag van prompts en antwoorden staat standaard aan. Gebruik voor modeltraining is een aparte opt-in die standaard uitstaat. Een organisatiebeheerder kan promptopslag uitschakelen om Zero Data Retention voor toekomstige inferentieverzoeken aan te zetten; passthrough-modellen worden dan ook uitgeschakeld.

Volgens de ZDR-uitleg blijven factureringsmetadata en accountgegevens bewaard. Bestanden die je voor Batch of fine-tuning uploadt, blijven staan totdat je ze verwijdert. ZDR verwijdert eerdere gegevens niet achteraf. Voor doorgestuurde modellen gelden ook de gegevensregels van de externe aanbieder.

Controleer voor commercieel gebruik de modellicentie en dienstvoorwaarden. Open modellen hebben niet allemaal dezelfde gebruiksrechten.

Veelgestelde vragen

Hoe krijg ik een API-sleutel?

Maak die aan bij API keys binnen je project. Bewaar hem in een omgevingsvariabele en gebruik hem met de SDK of REST-client.

Kan ik Together AI gratis gebruiken?

Ga niet uit van een algemene gratis proefperiode of welkomsttegoed. De huidige factureringsdocumentatie beschrijft vooruitbetaling; bekijk de accountvoorwaarden en het modeltarief.

Kan ik via dezelfde API van model wisselen?

Ja, bij ondersteunde endpoints met een andere geldige model-ID. Controleer wel invoerformaten, contextlimieten, JSON en function calling opnieuw.

Worden mijn prompts gebruikt om modellen te trainen?

Dat vereist een aparte toestemming die standaard uitstaat. Opslag staat wel standaard aan; configureer ZDR indien nodig en verwijder geüploade bestanden afzonderlijk.

Officiële hulp en ontwikkelaarscommunity

• Supportportaal: kennisbank en tickets.
• Servicestatus: storingen bekijken.
• GitHub: SDK’s en voorbeelden.
• Discord-community: technische vragen.
• Together AI op X: productnieuws.