MATLAB とは、 数値計算あるいは数値シミュレーション用の言語の一つ、 またはそれを使って計算するためのソフトウェアの名称です。 細かい出自 (歴史) は付録 A.2 を読んでもらうとして (授業の最後に話をするかもしれません)、 ここでは大雑把に説明します。
世の中の実際上の問題に対して、 計算により知見を得る (計算で解く) ためには、 伝統的には、Fortran と呼ばれるプログラミング言語でプログラムを書いて、 コンピューターで実行するのが普通でした。 問題ごとに専用のプログラムを用意して使うこともありますが、 プログラミングの高い自由度を残したまま、便利さを追求して開発されたものです。
最近は、色々なソフトウェアの高機能化が進んで、 数式処理系だった Mathematica も数値計算が得意になってきましたし、 MATLAB も数式処理の出来るオプションが用意されたり、 用途・目的はあまり明確に分けられなくなったかもしれませんが、 もともとの性格のようなものははっきり残っていると考えています。
MATLAB には、互換性の高いフリーソフトウェア (例えば Octave) があり、 ある程度自宅で学習することも可能です。