Souhrn
Thomas Dohmke, bývalý generální ředitel platformy GitHub, přijal novou roli, jejímž cílem je zlepšit bezpečnost kódu generovaného umělou inteligencí. Tento krok přichází krátce po jeho odchodu z Microsoftem vlastněného GitHubu a odráží rostoucí obavy z rizik spojených s AI vývojářskými nástroji.
Klíčové body
- Thomas Dohmke opustil funkci CEO GitHubu v roce 2024 a nyní se zaměřuje na bezpečnost AI generovaného kódu.
- Jeho nová role je spojena s iniciativami v oblasti zabezpečení vývojářských nástrojů využívajících AI.
- GitHub Copilot, jeden z nejrozšířenějších AI asistentů pro vývojáře, čelí kritice kvůli potenciálním bezpečnostním chybám a úniku citlivého kódu.
- Dohmkeova zkušenost s vývojářskými platformami a open-source ekosystémem je klíčová pro řešení těchto výzev.
Podrobnosti
Thomas Dohmke, který vedl GitHub od roku 2021 do začátku roku 2024, nyní pracuje na projektu zaměřeném na zajištění, že kód vytvářený pomocí AI nástrojů jako GitHub Copilot nebude obsahovat zranitelnosti, neoprávněně kopírované fragmenty nebo citlivá data. GitHub Copilot, který využívá modely od OpenAI, je dnes používán miliony vývojářů po celém světě ke generování kódu v reálném čase. Nicméně bezpečnostní experti opakovaně upozorňují, že AI může reprodukovat nezabezpečené nebo zastaralé vzory z trénovacích dat, což může vést k vážným bezpečnostním incidentům v produkčním prostředí.
Dohmkeova nová role pravděpodobně zahrnuje spolupráci s bezpečnostními týmy, vývojáři a akademickou obcí na vytvoření standardů a nástrojů pro audit AI generovaného kódu. Vzhledem k tomu, že GitHub je součástí Microsoftu, jeho činnost může mít širší dopad na celý ekosystém vývojářských nástrojů včetně Azure DevOps a dalších cloudových služeb.
Proč je to důležité
Bezpečnost AI generovaného kódu se stává kritickou otázkou v době, kdy se vývojáři čím dál více spoléhají na asistenty jako Copilot, Amazon CodeWhisperer nebo Tabnine. Pokud tyto nástroje nebudou řádně kontrolovány, mohou zavádět do softwaru skryté chyby nebo porušovat autorská práva. Dohmkova zkušenost s open-source komunitou a vedením velké vývojářské platformy mu dává unikátní postavení pro řešení těchto problémů na globální úrovni. Jeho činnost může přispět k vytvoření důvěryhodnějšího a bezpečnějšího prostředí pro budoucí vývoj softwaru s využitím AI.
Zdroj: 📰 Business Insider
| 