Delphiでお手軽プログラミング

Delphiでお手軽プログラミングメニュー

DelphiでFANN(Fast Artificial Neural Network Library)を使って手書き数字(0~9)の画像データセットMNISTを利用してみる

~ディープラーニング


FANNを使用する為のファイルの準備

https://mam-mam.net/delphi/fann.html からfannfloat.dll、fann.pas、MamFann.pasをダウンロードする。

MNISTファイルのダウンロード

http://yann.lecun.com/exdb/mnist/
から
「train-images-idx3-ubyte.gz」(トレーニングデータ)、
「train-labels-idx1-ubyte.gz」(トレーニングラベル)、
「t10k-images-idx3-ubyte.gz」(テストデータ)、
「t10k-labels-idx1-ubyte.gz」(テストラベル)
ファイルをダウンロードして解凍する。

Delphiを起動して新規作成を行う

Delphi起動⇒ファイル⇒新規作成⇒WindowsVCLアプリケーション を選択します。
TButton 2個、Edit 2個をフォームへドラッグ&ドロップします。

ソースコードを記述する

unit Unit1;

interface

uses
  Winapi.Windows, Winapi.Messages, System.SysUtils, System.Variants, System.Classes,
  Vcl.Controls, Vcl.Forms, Vcl.StdCtrls,
  fann, MamFann ;

type
  TForm1 = class(TForm)
    Button1: TButton;
    Button2: TButton;
    Edit1: TEdit;
    Edit2: TEdit;
    procedure FormDestroy(Sender: TObject);
    procedure Button1Click(Sender: TObject);
    procedure Button2Click(Sender: TObject);
  private
    { Private 宣言 }
    MamFann: TMamFann;
  public
    { Public 宣言 }
  end;

  TFannData=packed record
    id:Cardinal;
    num:Cardinal;
    row:Cardinal;
    col:Cardinal;
    data:array of array of Byte;
  end;
  TFannLabel=record
    id:Cardinal;
    num:Cardinal;
    data:array of Byte;
  end;

var
  Form1: TForm1;

implementation

{$R *.dfm}

procedure TForm1.Button1Click(Sender: TObject);
var //stl,stll:TStringList;
    i,j:integer;
    NeuronNumInLayer:array of Cardinal;
    inputs: array of TFann_type;
    outputs: array of TFann_type;
    //epoch:Integer;   //一連の学習の実施回数
    Mse: single; //誤差分散

    fanndata:TFannData;
    fannlabel:TFannLabel;
    strm:TFileStream;

    rbyte:array[0..3] of Byte;
    epoch:Integer;//繰り返し学習の回数用
begin
  //学習データの読み込み(60000個)
  strm:=TFileStream.Create('.\train-images.idx3-ubyte',fmOpenRead);
  strm.Position:=0;
  strm.Read(rbyte[0],4);
  fanndata.id :=(rbyte[0] shl 24)+(rbyte[1] shl 16)+(rbyte[2] shl 8)+rbyte[3];
  strm.Read(rbyte[0],4);
  fanndata.num:=(rbyte[0] shl 24)+(rbyte[1] shl 16)+(rbyte[2] shl 8)+rbyte[3];
  strm.Read(rbyte[0],4);
  fanndata.row:=(rbyte[0] shl 24)+(rbyte[1] shl 16)+(rbyte[2] shl 8)+rbyte[3];
  strm.Read(rbyte[0],4);
  fanndata.col:=(rbyte[0] shl 24)+(rbyte[1] shl 16)+(rbyte[2] shl 8)+rbyte[3];
  setlength(fanndata.data,fanndata.num);
  for i := 0 to fanndata.num-1 do
  begin
    setlength(fanndata.data[i],fanndata.row*fanndata.col);
    strm.Read(fanndata.data[i][0],fanndata.row*fanndata.col);
  end;
  strm.Free;

  //学習ラベルの読み込み(60000個)
  strm:=TFileStream.Create('.\train-labels.idx1-ubyte',fmOpenRead);
  strm.Position:=0;
  strm.Read(rbyte[0],4);
  fannlabel.id :=(rbyte[0] shl 24)+(rbyte[1] shl 16)+(rbyte[2] shl 8)+rbyte[3];
  strm.Read(rbyte[0],4);
  fannlabel.num:=(rbyte[0] shl 24)+(rbyte[1] shl 16)+(rbyte[2] shl 8)+rbyte[3];
  setlength(fannlabel.data,fannlabel.num);
  strm.Read(fannlabel.data[0],fannlabel.num);
  strm.Free;

  //TMamFannクラスのインスタンス化
  if Assigned(MamFann) then
    FreeAndNil(MamFann);
  setlength(NeuronNumInLayer,3);//レイヤー(層)の数

  //入力層のニューロン数
  NeuronNumInLayer[0]:=fanndata.row*fanndata.col;
  NeuronNumInLayer[1]:=350;       //中間層のニューロン数
  NeuronNumInLayer[2]:=10;       //出力層のニューロン数

  MamFann:=TMamFann.Create(NeuronNumInLayer);

  //必要なら以下を入れる
  //MamFann.TrainingAlgorithm:=TFann_train_enum.FANN_TRAIN_INCREMENTAL;
  //MamFann.TrainingAlgorithm:=TFann_train_enum.FANN_TRAIN_RPROP;

  setlength(outputs,10);
  setlength(inputs,fanndata.row*fanndata.col);

  //繰り返し学習を1回のみ行う
  for epoch := 1 to 1 do
  begin
    for i := 0 to fanndata.num-1 do
    begin
      for j := 0 to fanndata.row*fanndata.col-1 do
      begin
        inputs[j]:=fanndata.data[i][j]/255;
      end;
      for j := 0 to 9 do
        outputs[j]:=0;
      outputs[fannlabel.data[i]]:=1;

      MamFann.Train(inputs,outputs);
    end;
  end;

  //学習結果をファイルに保存
  //ロード[MamFann.LoadFromFile('a.net');]すれば学習結果を使用できる
  MamFann.SaveToFile('a.net');

  Mse:=MamFann.GetMSE;
  Edit1.Text:=FloatToStr(Mse);

end;

procedure TForm1.Button2Click(Sender: TObject);
var i,j: integer;
    inputs: array of TFann_type;
    outputs: array of TFann_type;
    fanndata:TFannData;
    fannlabel:TFannLabel;
    strm:TFileStream;
    rbyte:array[0..3] of Byte;
    num:integer;
    rate:single;
    hit:integer;
begin

  if not Assigned(MamFann) then exit;

  //テストデータの読み込み
  strm:=TFileStream.Create('.\t10k-images.idx3-ubyte',fmOpenRead);
  strm.Position:=0;
  strm.Read(rbyte[0],4);
  fanndata.id :=(rbyte[0] shl 24)+(rbyte[1] shl 16)+(rbyte[2] shl 8)+rbyte[3];
  strm.Read(rbyte[0],4);
  fanndata.num:=(rbyte[0] shl 24)+(rbyte[1] shl 16)+(rbyte[2] shl 8)+rbyte[3];
  strm.Read(rbyte[0],4);
  fanndata.row:=(rbyte[0] shl 24)+(rbyte[1] shl 16)+(rbyte[2] shl 8)+rbyte[3];
  strm.Read(rbyte[0],4);
  fanndata.col:=(rbyte[0] shl 24)+(rbyte[1] shl 16)+(rbyte[2] shl 8)+rbyte[3];
  setlength(fanndata.data,fanndata.num);
  for i := 0 to fanndata.num-1 do
  begin
    setlength(fanndata.data[i],fanndata.row*fanndata.col);
    strm.Read(fanndata.data[i][0],fanndata.row*fanndata.col);
  end;
  strm.Free;

  //テストラベルの読み込み
  strm:=TFileStream.Create('.\t10k-labels.idx1-ubyte',fmOpenRead);
  strm.Position:=0;
  strm.Read(rbyte[0],4);
  fannlabel.id :=(rbyte[0] shl 24)+(rbyte[1] shl 16)+(rbyte[2] shl 8)+rbyte[3];
  strm.Read(rbyte[0],4);
  fannlabel.num:=(rbyte[0] shl 24)+(rbyte[1] shl 16)+(rbyte[2] shl 8)+rbyte[3];
  setlength(fannlabel.data,fannlabel.num);
  strm.Read(fannlabel.data[0],fannlabel.num);
  strm.Free;

  setlength(outputs,10);
  setlength(inputs,fanndata.row*fanndata.col);
  hit:=0;
  for i := 0 to fanndata.num-1 do
  begin
    for j := 0 to fanndata.row*fanndata.col-1 do
    begin
      inputs[j]:=fanndata.data[i][j]/255;
    end;
    //テストデータを学習したFannに入れて、AIの結果を得る
    MamFann.Run(inputs,outputs);

    num:=0;
    rate:=outputs[0];
    for j := 1 to 9 do
    begin
      if outputs[j]>rate then
      begin
        rate:=outputs[j];
        num:=j;
      end;
    end;
    //Fann(AI)の結果が正答の場合
    if fannlabel.data[i]=num then
    begin
      inc(hit);//正答数をインクリメントする
    end;
  end;
  //正答率を表示する
  Edit2.Text:=floattostr(hit/fannlabel.num);
end;

procedure TForm1.FormDestroy(Sender: TObject);
begin
  if Assigned(MamFann) then
    FreeAndNil(MamFann);
end;

end.

実行する

実行ファイルが生成させるフォルダ内に「fannfloat.dll」を配置するのを忘れずに。(又はc:\windosフォルダ等に配置する)
また、実行ファイルが生成させるフォルダ内に、上記で解凍した
「train-images.idx3-ubyte」(トレーニングデータ)、
「train-labels-idx1-ubyte」(トレーニングラベル)、
「t10k-images-idx3-ubyte」(テストデータ)、
「t10k-labels-idx1-ubyte」(テストラベル)
を入れておく。

実行ボタンを押して実行します。(デバッグ実行でもOK)

Button1をクリックすると、学習を開始し、学習が完了するとEdit1に「平均二乗誤差(MSE)」を表示します。
その後、Button2をクリックするとテストデータをAIに入力し、出力結果が正しいかどうかを判断し、AIの正答率をEdit2に表示します。



Copyright 2020 Mam