PromptLayer sedang membangun alat untuk menempatkan non-teknologi di kursi pengemudi pengembangan aplikasi AI

Boom Genai dari beberapa tahun terakhir telah melepaskan gelombang startup yang berjanji untuk mendukung proses rekayasa yang cepat – yaitu, menghasilkan instruksi untuk secara tepat mengarahkan chatbot AI untuk menyajikan output yang bermanfaat. Jadi pikirkan alat -alat seperti OpenAI’s ChatGPT dan Google Gemini, yang menghadirkan pengguna dengan bidang kosong untuk kueri mereka – dan di mana apa yang Anda tanyakan dan juga bagaimana Anda menanyakannya dapat menghasilkan hasil yang sangat berbeda.

Berbasis di New York PromptLayer Masuk ke ruang ini lebih awal, meluncurkan alat untuk membantu pengembang aplikasi mengelola proses dorongan sekitar dua tahun lalu. Para pendiri telah bermain-main dengan AI Chatbots sendiri dan ingin sesuatu untuk melacak dorongan mereka sendiri, menceritakan co-founder Jared Zoneraich (a TechCrunch mengganggu tawas hackathongambar di atas kiri dengan co-founder Jonathan Pedoeem).

Dengan sedikit kemauan, mereka menempatkan MVP mereka di luar sana (pada X) dan alat yang mereka bangun sendiri membuat percikan, sehingga mereka terus membangun. Sejak berevolusi menjadi produk manajemen yang cepat yang mereka jual ke bisnis pihak ketiga untuk mendukung pengembangan aplikasi AI mereka, menunjukkan bahwa para pendiri mencapai waktu yang tepat untuk memenuhi minat yang meningkat dari bisnis dalam bagaimana model bahasa besar (LLM) dapat membantu meningkatkan produktivitas mereka.

Sementara ruang dukungan cepat telah memanas di tahun -tahun sejak PromptLayer merilis MVP yang telah mereka lakukan untuk membangun platform manajemen cepat yang sepenuhnya ditampilkan – menawarkan antarmuka visual yang dikemas dengan alat untuk mengelola dan memantau proses mencoba mengekstrak Nilai terbaik dari LLMS.

Sekarang mereka telah menutup kenaikan gaji $ 4,8 juta untuk terus membangun momentum untuk pendekatan mereka. Babak ini dipimpin oleh Ivan Bercovich (Mitra SCOP Venture), dengan Peter Boyce II (Modal Stellation) berpartisipasi lagi (ia juga mendanai pra-unggulan mereka), bersama dengan beberapa malaikat dan pendiri dan operator AI-termasuk Michael Akilian, Joshua Browder, Byrne Hobart, Romain Huet, Josh Kamdjou, Logan Kilpatrick, Ben Lang, Alex Oppenheimer, Gokul Rajaram, Ben Lang, Alex Oppenheimer, Gokul Rajaram , Gabriel Stengel dan Luis Voloch.

Mengawasi petunjuk

Zonerich mengatakan inti dari produk PromptLayer adalah “pendaftaran cepat”. “Ini CMS, itu kontrol versi untuk petunjuk,” jelasnya. “Anda memiliki prompt, Anda membuat versi baru, Anda dapat melihat mengapa versi berbeda, dan kemudian Anda dapat memilih versi mana versi produksi Anda … itu seperti pusat produk kami – dan semuanya berkembang dari itu dan mencoba untuk Jadikan itu lebih berguna. “

“Misalnya, tes di atas itu, atau log di atas ketika Anda menggunakan prompt mana, atau tes A/B antara petunjuk, dan semacam wawasan yang lebih dalam ke versi mana yang terbaik.”

Platform ini dirancang untuk mendukung pelanggan untuk menguji dan mengevaluasi berbagai petunjuk yang berbeda untuk kasus penggunaan aplikasi khusus mereka – katakanlah aplikasi pembinaan AI atau chatbot untuk dukungan pelanggan – memungkinkan mereka menguji bagaimana berbagai versi prompt berkinerja di berbagai LLM; Dan, lebih umum, dapatkan pegangan yang lebih baik pada dunia baru yang berani dari pengembangan aplikasi di mana bahasa yang diperlukan untuk memerintahkan teknologi canggih, sebagian besar, hanya kata-kata (bukan kode).

Tidak biasanya untuk pembuat alat dev, promptLayer dengan sengaja berfokus pada pengguna non-teknis.

Zonerich mengatakan mereka membuat pilihan sadar untuk membangun bisnis manajemen yang cepat yang diarahkan pada apa yang ia sebut sebagai “pakar domain” – yaitu, para profesional dengan keahlian utama di bidang mereka, apakah itu pendidikan, hukum, perawatan kesehatan, dan sebagainya – setelah mereka menemukan Pengguna awal membawa non-coders ke pesta pengembangan aplikasi.

“Kami yakin Anda tidak dapat membangun AI perawatan kesehatan tanpa dokter, AI legal tanpa pengacara, atau terapi AI tanpa terapis,” startup menulis dalam pernyataan misi yang mengatakan alat perangkat lunaknya “memungkinkan para ahli domain dan insinyur untuk berkolaborasi dengan menggunakan CMS prompt visual kami kami CMS kami kami . “

Zonerach melangkah lebih jauh – mengatakan platform menempatkan para ahli domain di “kursi pengemudi” pengembangan aplikasi.

“Ini menjadi sesuatu yang mereka butuhkan untuk dilatih – tetapi ini bukan lompatan besar,” sarannya. “Tidak seperti itu mereka harus belajar membuat kode. Jadi itu adalah sesuatu yang bisa diambil rata -rata orang. ”

Mengambil taktik yang berbeda

Mengingat bagaimana Genai telah membuka kotak alat AI-terima kasih, sebagian besar, untuk keputusan Openai untuk menyematkan AI generatif dalam antarmuka bahasa alami yang dapat diakses-pilihan untuk fokus pada alat untuk pengguna non-teknis masuk akal secara logis. Namun, Zoneraich menganggapnya berbeda dari mayoritas pemain di ruang angkasa.

“Kami mengambil pendekatan yang sangat berbeda dari orang lain,” ia menyarankan saat panggilan dengan TechCrunch. “Seluruh konsep ahli domain ini memimpin tuduhan – pada dasarnya tidak ada yang melakukan itu. Saya pikir kami mempelajarinya dari pelanggan kami. Tapi di Silicon Valley, itu agak sedikit kurang seksi untuk dibangun untuk non-teknis, daripada teknis. “

“Saya tidak berpikir kita perlu meyakinkan siapa pun bahwa ini adalah cara yang tepat untuk melakukannya. Saya pikir pasar akan melakukan itu berbicara untuk kita, “lanjutnya, dengan alasan:” Saya tidak berpikir Anda bisa menang di banyak domain ini tanpa mempekerjakan ahli domain [to do prompt engineering].

“Lagi pula, tidak ada cukup insinyur, bahkan jika kami ingin menjadi staf semuanya dengan insinyur.”

Di sisi alat AI yang terfokus secara teknis, nama-nama Zoneraich memeriksa orang-orang seperti Zapier – Serta menunjuk pada apa yang ia sebut sebagai perusahaan “LLM OPS” seperti Brainttrust Dan Langchain – Ketika kita membahas lanskap kompetitif. “Tapi saya pikir semua orang terlalu cocok untuk itu [tools for technical users]”Ia berpendapat, mengatakan itu adalah keyakinannya bahwa bagi sebagian besar perusahaan yang ingin memanfaatkan kekuatan LLMS, para ahli domain yang relevan untuk aplikasi yang ingin mereka bangun tidak akan menjadi staf teknis.

Dia juga menganggap keterampilan yang diperlukan untuk menjadi insinyur cepat yang baik tidak harus sama dengan yang membuat programmer yang baik.

“Keterampilan rekayasa cepat tidak 100% berkorelasi dengan insinyur. Ada ayat, tapi itu benar -benar, seperti, jenis keterampilan yang mengotak -atik [that’s required] … ‘Saya hanya akan mencoba hal acak ini, dan kemudian saya akan melihat apa hasilnya,’ “katanya kepada kita. “Beberapa orang mencoba untuk benar -benar merencanakannya dan melakukan penelitian tentang apa yang seharusnya. Dan menurut saya, orang -orang itu tidak pandai [prompt engineering] Karena sebenarnya tidak ada sains. “

“Saya pikir semakin sedikit Anda mencoba memahami LLM, semakin baik Anda,” tambahnya.

Permintaan bangunan

Zoneraich bullish tentang seberapa besar kebutuhan pasar akan menjadi alat untuk mendapatkan yang terbaik dari LLMS. Dia juga tidak khawatir bahwa bidang rekayasa cepat yang baru muncul ini akan berakhir dengan blip dalam sejarah pekerjaan yang dengan cepat menguap oleh perkembangan baru di pasar Genai yang serba cepat.

Bahkan seorang AGI – apakah AI yang umumnya cerdas akan dibawa ke dalam – akan dibutuhkan sesuatu Untuk bekerja dengan, ia berpendapat, menyiratkan bahwa manusia masih akan membutuhkan beberapa bentuk alat/dukungan untuk mendorong mesin untuk masa mendatang.

“Bagian yang sulit adalah, apa yang harus saya lakukan dengannya? Bagian yang sulit adalah, tugas apa yang saya berikan untuk dipecahkan? ” Dia mengatakan, menggarisbawahi kepercayaan promptlayer bahwa itu sedang membangun perkakas untuk jangka panjang. “Bagian yang sulit adalah mendefinisikan apa yang harus dilakukan.”

“Jika Anda yakin tidak ada solusi sempurna untuk banyak masalah ini, ada cara tak terbatas untuk menyelesaikannya, dan itulah tugas insinyur cepat – untuk memilih masalah apa yang bahkan saya selesaikan? Apa konteks untuk menyelesaikan masalah? ” Dia melanjutkan.

“LLM hanyalah jenis alat untuk beralih dari definisi masalah ke solusi, tetapi Anda hanya memindahkan lapisan abstraksi … kami memindahkannya dari kode mesin ke bahasa pemrograman modern. Kemudian kami memindahkannya dari bahasa pemrograman modern untuk meminta. Dan mungkin kita akan memindahkannya dari petunjuk mentah untuk menjadi seperti masukan ke petunjuk, ”katanya.

“Tetapi pada akhirnya, Anda masih membutuhkan input. Ada bagian yang tidak dapat direduksi itu. ”

Babak benih akan digunakan untuk memperluas tim (saat ini delapan-kuat), dengan fokus pada penambahan bakat rekayasa in-house untuk memastikan kualitas dan keandalan layanan bagi pelanggan, per zoneraich. Dia mengatakan mereka juga ingin memperluas platform untuk melayani lebih banyak kasus penggunaan dan meningkatkan penggunaan-serta melakukan upaya dan energi ke dalam pembangunan masyarakat untuk membantu memelihara bidang rekayasa cepat yang sedang berlangsung ini.

“Juri tidak keluar tentang seperti apa insinyur yang cepat atau apa insinyur yang cepat. Dan saya pikir itu tugas kami untuk membangun komunitas di sekitar ini – jadilah pelopor bidang teknik yang cepat ini dan tunjukkan kepada orang -orang bagaimana melakukannya. Jadi itu fokus besar. “

PromptLayer belum mengungkapkan berapa banyak pelanggan yang membayar untuk alat -alatnya – tetapi Zonerich mengatakan mereka memiliki lebih dari 10.000 pelanggan gratis dan bayaran yang telah melalui situs web mereka. (ParentLab dan Bicara yang didukung OpenAi adalah dua pelanggan yang membayar yang ia beri nama.)

Startup ini juga telah melihat pertumbuhan pendapatan 13x tahun ini-dan mengklaim pertumbuhan pendapatan yang cepat ini murni melalui mulut ke mulut “karena tim menemukan mereka membutuhkan pakar domain, bukan hanya insinyur, untuk membangun AI”.

“Yang diperlukan untuk memperbaiki masalah yang diminta ini adalah Anda pergi, Anda mengubah prompt, dan Anda melihat bagaimana hasilnya – dan kami memiliki banyak perkakas untuk membantu Anda melakukannya pada skala. Tapi itulah intinya: hanya metode ilmiah, ”tambah Zoneraich.