AI for Software Engineering

最近 Devin というのが話題になっています。コード開発の支援程度ではなくソフトウェア開発の全体に渡っての支援をしてくれるようです。どの程度実用的なのかはまだ未知数です。なお、OpenDevin というのもあります。

MS社からも AutoDev: Automated AI-Driven Development という名前の論文が公開されています。AI-DrivenというのがModel-Drivenを思い出させますね。こちらもまだ研究段階のようです。

いずれにせよ、しばらくすると、こういったものがでてくると想定しておく必要があります。ChatGPT だけでもそれなり以上のことを助けてくれたので、Software Engineering に特化したこういう AI アプリがどんな働きをしてくれるか注目しましょう。

私としては、どうモデリングと繋ぐかが関心事ですので、前に ChatGTP でやったことを改めて試してみるところからでしょうか。

Generative AI の FineTuning

Generative AI の世界である領域に特化した language model を作成するには、ゼロから育てるか、既存のモデルをファインチューンするかのようで、作業量の観点で手をつけやすいのが後者のようです。

この考え方は、UML でカバーしきれない部分を UML Profile という拡張メカニズムを用意することでモデリングの範囲を拡大できるようにした、ことに近いと感じます。

既存の言語モデル（UML相当）を使い 、FineTuneというメカニズム（UML Profile相当）を用意し特定領域に特化した生成AIにするということです。特定の領域を深掘りするという意味でDSLにも近いですね。

以前専用 GPT を作成した際には知識としてpdfファイルを与えましたが、Fine Tuningの方が直接的なのだろうとは思います（準備が大変そうですが）。