Suatu alat/sistem pengukuran dikatakan linier jika secara seragam merespon perubahan yang bertambah, yaitu nilai keluaran sama dengan nilai masukan pada suatu rentang tertentu. Linearitas didefinisikan sebagai deviasi maksimum keluaran sistem pengukuran dari garis lurus tertentu yang diterapkan pada plot titik data pada kurva nilai terukur (keluaran) versus nilai ukur (masukan).

Untuk mendapatkan hasil pengukuran yang akurat, tingkat linieritas yang tinggi harus dipertahankan dalam instrumen atau meminimalkan kesalahan linieritas. Tingkat linearitas yang lebih baik membuat instrumen siap dikalibrasi. Namun, dalam praktiknya, hanya pendekatan linieritas yang dicapai karena selalu ada beberapa varians kecil yang terkait dengan sistem pengukuran.

Oleh karena itu, linearitas input yang diharapkan biasanya ditentukan sebagai persentase dari rentang operasi. Pengukur bahan bakar di mobil adalah salah satu contoh non-linearitas. Ketika tangki terisi penuh, jarum pengukur menunjukkan tangki penuh. Jarum terus berada dalam posisi hampir penuh bahkan setelah konsumsi bahan bakar dalam jumlah yang signifikan. Tetapi seiring penggunaan yang cukup jauh, jarum tampaknya bergerak cepat menuju nilai bahan bakar minimum.

Ini mungkin karena kalibrasi pengukur bahan bakar yang tidak tepat pada nilai maksimum dan minimum dari rentang operasi. Sebelum membuat interpretasi atau perbandingan spesifikasi linieritas alat ukur, perlu untuk menentukan sifat pasti dari garis lurus referensi yang diadopsi, karena beberapa garis dapat digunakan sebagai referensi linieritas.

Baris yang paling umum adalah sebagai berikut:

• Pada Gambar. 12.4. Garis yang paling sesuai adalah cara paling umum untuk menunjukkan korelasi antara dua variabel. Garis ini, yang juga dikenal sebagai garis tren, ditarik melalui pusat sekelompok titik data pada plot pencar. Garis yang paling cocok dapat melewati semua titik, beberapa titik, atau tidak satupun titik. Plot nilai keluaran versus nilai masukan dengan kecocokan garis terbaik adalah Garis titik akhir Ini digunakan ketika outputnya bipolar. Ini adalah garis yang ditarik dengan menghubungkan titik akhir plot data tanpa mempertimbangkan asalnya.
• Hal ini ditunjukkan pada Gambar 12.5. Jalur terminal Ketika garis ditarik dari titik asal ke titik data pada output skala penuh, itu dikenal sebagai garis terminal.
• Dan pada Gambar. 12.6. Garis kuadrat terkecil Ini adalah metode yang paling disukai dan banyak digunakan dalam analisis regresi.

Carl Freidrich Gauss (1975) adalah orang pertama yang memberikan deskripsi paling awal tentang metode kuadrat terkecil. Ini adalah teknik statistik dan cara yang lebih tepat untuk menentukan garis yang paling cocok untuk sekumpulan titik data tertentu.

Garis yang paling sesuai ditarik melalui sejumlah titik data dengan meminimalkan jumlah kuadrat simpangan titik data dari garis yang paling sesuai, oleh karena itu dinamakan kuadrat terkecil. Garis ditentukan oleh persamaan yang menghubungkan nilai input dengan nilai output dengan mempertimbangkan himpunan titik data