„OpenAI“ reaguoja į „labai populiarų paklausą“ pristatydama pagrindinę LLM saugos funkciją kūrėjams

„OpenAI“ šiandien paskelbė apie pagrindinį atnaujinimą, kuris pagaliau pateikia labiausiai užklausas funkcijas, kurių prašė kūrėjai.

Pradėjusi API funkciją „Struktūriniai išėjimai“, bendrovė kūrėjams siūlo patikimą būdą užtikrinti, kad jų generuojamųjų dirbtinio intelekto modelių išvestis atitiktų duomenis, saugomus „JavaScript“ objektų žymėjimo schemos failuose.

JSON schemos failai yra būtini kuriant dirbtinį intelektą, nes jie naudojami JSON dokumentų, kuriuos kūrėjai įtraukia į didelius kalbos modelius, turiniui, struktūrai ir duomenims apibūdinti. Juose taip pat aprašomi tais duomenimis pagrįsti išvesties apribojimai.

JSON dokumentai yra failai, kuriuose naudojamas JSON formatas tekstiniams duomenims saugoti ir jais keistis. Jie populiarūs, nes forma yra paprasta naudoti, lanksti ir suderinama su keliomis programavimo kalbomis. Be to, jį lengvai skaito ir žmonės, ir mašinos, todėl jis tapo pramonės standartu.

Deja, atrodo, kad LLM nelabai gali prilygti žmonių ir įprastų mašinų gebėjimams, kai reikia skaityti JSON failus. Jiems sunku tai padaryti, todėl LLM, naudojantys JSON duomenis, dažnai „haliucinuos“ ir atsakys arba išves toksišką turinį. Taip yra todėl, kad jie gali tik iš dalies vykdyti instrukcijas JSON failuose. Norėdami tai apeiti, kūrėjai buvo priversti naudoti daugybę nepatogių atvirojo kodo failų ir išbandyti savo modelius su daugybe raginimų ir pasikartojančių užklausų, kad užtikrintų, jog jų rezultatai nepatenka į saugias ribas.

Štai kodėl API struktūriniai išėjimai tapo labiausiai paklausia kūrėjų, dirbančių su OpenAI LLM, funkcija. Užtikrindami, kad LLM išvestis atitiktų jų JSON failų turinį, kūrėjai gali kurti nuoseklesnes ir saugesnes generuojančias AI programas.

„OpenAI“ generalinis direktorius Samas Altmanas socialiniame tinkle „Twitter“ pareiškė, kad ši funkcija buvo išleista dėl „populiaraus poreikio“, o tinklaraščio įraše bendrovė teigė, kad struktūrinių išėjimų įvertinimai jos galingiausioje LLM, GPT-4o, pasiekė puikų 100 balų. % balas.

pagal labai populiarų poreikį, struktūriniai išėjimai API: https://t.co/AbfzTp4LMF

– Samas Altmanas (@sama) 2024 m. rugpjūčio 6 d

Praėjusiais metais „OpenAI“ pirmą kartą pridėjo JSON dokumentų palaikymą, kai debiutavo JSON režimas, tačiau ši funkcija sulaukė prieštaringų atsiliepimų dėl patikimos išvesties užtikrinimo problemos. „OpenAI“ teigė, kad naudojant šiandienos atnaujinimą, kūrėjams dabar bus daug lengviau apriboti LLM ir užtikrinti, kad jie atitiktų jų JSON schemas.

Kaip šalutinis pranašumas, API struktūriniai išėjimai taip pat padeda LLM geriau suprasti sudėtingesnes JSON schemas, teigė bendrovė. „Nors abu (JSON režimas ir struktūriniai išėjimai) užtikrina, kad būtų sukurtas tinkamas JSON, tik struktūriniai išėjimai užtikrina schemos laikymąsi“, – rašė bendrovė savo tinklaraščio įraše.

Pasak bendrovės, tai reiškia, kad kūrėjams nebereikės jaudintis, kad jų naudojami LLM gali praleisti reikiamą raktą arba haliucinuoti apie netinkamas išvardijimo vertes. Naudodami struktūrines išvestis kūrėjai galės paprašyti „žingsnis po žingsnio“ atsakymo, kuris nukreiptų juos į numatytą išvestį.

„Saugumas yra pagrindinis OpenAI prioritetas“, – tvirtino bendrovė. „Naujoji struktūrinių išėjimų funkcija atitiks mūsų esamą saugos praktiką ir leis modeliams atmesti nesaugų užklausą.

API struktūriniai išėjimai dabar pasiekiami su GPT-4o, GPT-40-mini ir keliomis tiksliai suderintomis šių dviejų LLM versijomis. Jis gali būti naudojamas su įvairiomis programų programavimo sąsajomis, įskaitant Assistant API, Batch API ir Chat Completions API, ir yra suderinamas su vizijos įvestimis bei tekstu.

Dar daugiau ginčų

Šiandienos atnaujinimas ateina dar vienu audringu OpenAI metu, kurį praėjusią savaitę nukentėjo trys pagrindiniai vadovai. Šiandien Jonas Schulmanas, suvaidinęs pagrindinį vaidmenį kuriant produktus, pasakė, kad palieka įmonę ir prisijungs prie konkuruojančios AI įmonės Anthropic PBC. Schulmanas paskelbė apie savo pasitraukimą X ir tapo aštuntuoju iš 11 OpenAI įkūrėjų, pasitraukusiu iš įmonės.

Po kelių valandų kitas įkūrėjas Gregas Brockmanas, einantis bendrovės prezidento pareigas, atsitraukė keturiems mėnesiams, kad galėtų pailsėti ir pirmą kartą „atsipalaiduoti“ nuo tada, kai padėjo įkurti įmonę prieš devynerius metus. .

Brockmanas, Altmanas ir vyriausiasis tyrėjas Wojciechas Zaremba yra vieninteliai pradinės steigėjų komandos nariai, vis dar dirbantys įmonėje. Schulmano ir Brockmano pranešimai pasirodė praėjusios savaitės naujienos, kad OpenAI produktų vadovas Peteris Dengas paliko įmonę, prie jos prisijungęs tik praėjusiais metais.

Taip pat šią savaitę kitas „OpenAI“ įkūrėjas, technologijų verslininkas Elonas Muskas, atskleidė, kad įmonei pateikė dar vieną ieškinį. Šį kartą jis kaltina įmonę suklaidinus ją dėl jos AI plėtros tikslų.

Ieškinyje Muskas teigia, kad OpenAI pozicionavo save kaip ne pelno siekiančią įmonę, kuri buvo „įsipareigojusi padaryti savo AI technologiją prieinamą pagal atvirojo kodo licenciją“. Jis teigia, kad vėliau pradėjus pelno padalinį ir vėliau bendradarbiauti su „Microsoft Corp.“, šis susitarimas buvo pažeistas.

Muskas pridūrė, kad OpenAI buvo kalta dėl „šekspyro“ išdavystės, kai atsisakė savo atvirojo kodo misijos.

Vaizdas: OpenAI