直しながら、使い続けられるか

生成AIで社内システムを作るときも、最初からすべての機能を盛り込んだ完成品を目指す必要はありません。小さく作って、使いながら育てられること自体が、自分たちで作ることの強みです。 その強みを活かすには、変えたり間違えたりしても、直し続けられる備えが要ります。

この記事は、実務編の最後の問い、使いながら考える問いを扱います。「作ったものは、業務に乗せられるか」で業務に乗せた仕組みを、直しながら使い続けるために、自社で何を決めておく必要があるかを見ます。テストの技法やバックアップの方式、障害対応の手順には立ち入りません。

仕組みは、変えていくもの

必要なところから小さく作り、実際に使ってみると、直したいところが見えてきます。もっとこうしたい。この手順はいらなかった。この例外にも対応したい。使って初めて分かることを、直していきます。この変更は失敗ではなく、通常の運用です。 小さく始めた仕組みほど、直す機会は多くなります。

ただ、変更の途中や、使っている中では、次のようなことも起こります。

• 自社の意図が十分に伝わらず、期待と違う動きをする
• AIが生成したコードに、不具合が含まれている
• 修正によって、以前は動いていた部分に影響が出る
• 操作やデータの状態によって、想定していなかった問題が起きる

AIに作らせたから正しいものが必ずできる、というわけではありません。変えることと、間違うこと。この両方を前提に、備えを三つに分けて考えます。止まっても、業務を続けられるか。間違えても、戻して原因を確かめられるか。変える前に、試せるようになっているか。

止まっても、業務を続けられるか

「そもそも自分たちで作るべきか」では、壊れたり間違えたりしたときの影響の大きさを、内製に向くかを見る基準の一つにしました。ここで考えるのは、作ると決めた仕組みが止まったときの備えです。自社で決めておくのは三つ。どのくらい止まってもよいか。止まっている間をどうするか。問題が起きたら、誰が対応を始めるか。

止まってよい時間は、業務で違います。「作ったものは、業務に乗せられるか」で業務の条件として挙げた、止まるとどの程度困るのかが、そのまま一つ目の答えになります。具体例で見ます。

業務	どのくらい止まってもよいか	止まっている間のやり方
会議室の予約	急がない。数日止まっても済む	声をかけて調整する
勤怠管理	月末の締めまで。給与計算に間に合わせる	その日の打刻は紙に書き、直った後に打ち直す

この二つが決まっていれば、止まった朝に慌てません。止まっている間のやり方が紙やExcelで回るなら、その仕組みは安心して変えていけます。止まっても元のやり方に戻れる業務から始めるのは、このためです。

三つ目は、人です。問題に気づいた社員が誰に知らせ、誰が対応を引き取るのか。多くの場合、「そもそも自分たちで作るべきか」で決めた運用の責任者がその人です。決めておくのは、ここまでで足ります。対応を引き取る人が決まっていれば、直す段取りはそこから始められます。作った本人以外も状況を確認し、修正を始められる状態は、「作ったものは、業務に乗せられるか」で扱いました。

間違えても、戻して原因を確かめられるか

誤った操作で記録が消えた。直したつもりが、別のところを壊した。気づかないうちに、集計がずれていた。こうした間違いに備えて決めておくのは、二つです。どの時点まで戻れればよいか。何が起きたか、後から調べられるか。

データを以前の状態に戻せるように、控えを残しておく。これがバックアップです。ここで自社が決めるのは、どの時点まで戻れれば、業務としてやり直せるかです。1日分なら入力し直せる業務もあれば、数時間分でも失うと困る業務もあります。勤怠管理なら、たとえば前日の状態に戻れれば、その日の打刻は本人に確かめて打ち直せます。どの方式で、どの頻度でバックアップを取るかは、作る人が技術的に考えます。会社で使っているサービスに、版の履歴や自動のバックアップの仕組みが備わっていることもあり、それで足りるかも含めて確認してもらいます。

バックアップがあることと、戻せることは別です。戻せるかどうかは、作る人に一度は試して確かめてもらいます。戻し方によっては、バックアップを取った時点より後の記録を入力し直すことになります。どの時点まで戻れればよいかを決めることは、この入力し直しを業務として引き受けられる範囲を決めることです。

コードは、データとは分けて考えます。修正で以前の動きを壊したときに変更前の状態へ戻せるよう、変更の履歴を残しておきます。「作ったものは、業務に乗せられるか」で触れたリポジトリで履歴を残しておけば、以前の状態へ戻す元になります。

もう一つは、記録です。間違いに気づいたとき、いつ、誰が、何をしたのかが分からなければ、原因にたどり着けません。仕組みが自分の動きを残した記録をログと呼びます。自社が判断するのは、問題が起きたあと、何が起きたか調べられる状態になっているかです。何をどのように記録するかは、作る人や詳しい人が確認します。「そのデータは何で、どれを正とするか」で履歴を残すと決めたなら、データの側にも、変更前の値と、誰がいつ変えたかが残ります。

変える前に、試せるようになっているか

三つ目は、変えるときです。変更したものを、いきなり実際の業務で使わず、まず試せるようにしておきます。 業務で使っている仕組みを直接直すと、実際の業務やデータに影響が出る可能性があるからです。試し方はいろいろあります。コピーしたファイルで試す。テスト用のデータで動かす。仕組みの規模や作り方によっては、業務で使っている本番とは別に、テスト環境を用意する。どの方法にするかは、作る人が確認します。自社が見るのは、安全に試せる場所や方法が用意されているかです。

試すときのデータは、実際の個人情報をそのまま使わず、架空のデータか、必要に応じて加工したデータで試します。勤怠の記録は社員の個人情報なので、試す場所に全員分をそのまま置くと、守るべき場所が増えます。

何をもって業務として正しいとするかは、自社が決めます。 作った人やAIが「できた」と言うことと、実際の業務で正しいことは別だからです。技術的に問題なく動いているかは、作る人や詳しい人が確認します。自社が決めるのは業務としての正しさ、つまり、普段の業務と代表的な例外が想定どおりに進み、権限が決めたとおりで、期待する結果が出るか、です。確かめる項目を新しく考える必要はありません。これまでの問いで決めてきたことが、そのまま項目になります。

確かめること	何で確かめるか
普段の流れと、代表的な例外が、決めたとおりに進み、期待する結果が出るか	「業務は整っているか」で言葉にした流れと例外
誰が何を見られ、何ができるかが、決めたとおりになっているか	「誰に何を見せ、何をさせてよいか」で決めた範囲
変更したことで、これまで動いていた業務を壊していないか	上の二つを、変更のたびにもう一度通す

テストの方法そのものは、AIや作る人、詳しい人に相談できます。

確かめる視点も、決めておきます。作った人は、自分の意図どおりに動くかは見られますが、意図そのものの抜けには気づきにくいものです。作る側の視点だけで完成と判断せず、実際の業務を知る人の視点でも確認します。 勤怠管理なら、月末の集計をする担当者です。小さな会社では、一人が両方の役割を持つこともあります。それでも、作る視点と使う視点の両方で見ることは変わりません。

試して問題がなければ、いつから実際の業務で使い始めるかを決めます。これも自社の判断です。勤怠管理なら、月末の締めの直前は避けます。

自社で決めることと、作る人が確認すること

三つの備えは、どれも、会社としてどこまで必要かを自社が決め、その状態をどう実現するかを作る人が考える、という分担になっています。バックアップの方式や、試す場所の作り方まで、自社で決める必要はありません。ただ、決める側がいなければ、作る人も何を満たせばよいか分かりません。

備え	自社が決めること	作る人・詳しい人が確認すること
止まったとき	どのくらい止まってもよいか。止まっている間をどうするか。誰が対応を始めるか	技術的にどう復旧するか
間違えたとき	どの時点まで戻れればよいか。何が起きたか、後から調べられるか	その条件を満たすバックアップの方法。必要な記録の残し方
変えるとき	何をもって業務として正しいと判断するか。誰の視点で確かめるか。いつ実際の業務で使い始めるか	安全に変更を試す方法。テストの具体的な方法。技術的に問題なく動いているかの確認

つまずきやすいところ

• 問題が起きてから、備えを考える。 動いている間は、動いていることに安心して手が回りません。起きてから考えても、戻る先のバックアップは取れず、何が起きたかを追う記録も残っていません。できれば、三つの備えは業務に乗せる前に決めておくほうが楽です。すでに使い始めていても、今から決めれば遅くありません。
• 小さい仕組みだから、備えは要らないと思う。 小さい仕組みなら、備えも小さくてよいのです。止まったら元のやり方に戻る、と決めておくだけでも備えです。三つの問いへの答えが、それぞれ一行で済むこともあります。

まとめ

止まっても、業務を続けられる。間違えても、戻して何が起きたか確かめられる。変更したものを、実際の業務で使う前に試せる。この三つがあれば、最初から完璧でなくて構いません。小さく作り、試し、直しながら育てていけます。仕組みは、完成させて終わるものではなく、直しながら使い続けるものです。備えを決めておけば、次の一歩は自分たちで進められます。

6つの問いは、これで一巡です。使いながら気づいたことは、前の問いに戻って決め直せます。全体は冒頭ページにあります。