画像を拡大縮小させたり、変形させる場合、サンプリングという処理が行われます。
CG処理では、「変形後の画像を描画する際に、変形前の画像のどのピクセルを取得(参照)するか?」 という意味として使われます (音楽など、他の分野でもサンプリングという言葉は汎用的に使われます)。
どのような方法 (アルゴリズム) でピクセルを取得するかによって、画質は変わってきます。
ニアレストネイバー(最近傍法)
一番単純なサンプリング方法です。元のピクセルを参照する際、1ピクセルしか参照しないため、ジャギーが目立ちます。他の方法と違って、滲んだり、使用する色数が増えることがないので、ドット感を保ちたい場合に有効でしょう。
バイリニア
4ピクセルを参照してサンプリングする方法です。4ピクセルの中間色を取得することで、ニアレストネイバーより滑らかな表現が可能になります。処理も高速で品質もまずまずのこの設定が、 FireAlpacaのデフォルトです。
バイキュービック
16ピクセルを参照してサンプリングする方法です。16ピクセルを参照するので、バイリニアに比べて数倍の負荷がかかります。ぱっと見、バイリニアと違いが分からないかもしれません。ただ、何度も繰り返し変形処理を加えた際に、大きな違いが現れます。バイリニアでは一気にぼやけていく輪郭が、バイキュービックでは比較的シャープさを保ちます。
より詳しく技術を知りたい方は、「2Dグラフィックスのしくみ」 (著: FireAlpaca開発チーム) を参照ください。