問題なく自分用のMAMEができた。まあ、一覧を自分用にしただけですけどね。
やり方は次の通り。
１．コンパイル環境を作る
２．src/mame/にmame.lst、mame.makを参考に絞り込んだファイルを作る。
３．make SUBTARGET=２で作ったファイル名（拡張子なし）でコンパイル。
こんな感じ。lstは残したいゲーム名だけを指定しておけばいい。ただし、BIOSとか親となるゲーム名がないと必要なファイルをすべて指定したゲーム名の書庫を作らないと実行できません。makはゲームが含まれるソースをコンパイルしてリンクされるように指定する。プログラミングの知識がないと変更は難しいかも。CPUSとSOUNDSの指定も絞れますけど、うちは判断がつきにくいのが多かったので削りませんでした。DRVLIBSは使わないアーカイブは削除、その次にあるアーカイブの関連で使われるドライバ、マシン、オーディオのオブジェクトを指定します。この辺りはコンパイルしてエラーが出たら訂正という形で進めました。うちは皆無から付け加える方向で作ったので、リンク時に見つからないエントリとか変数を検索してオブジェクトを指定するやり方でした。削る方向だとこの方法は無理かと思います。
バージョンアップのたびに追いかけるのは面倒なのでこれまでかな。