Pensil berasal dari kata Latin yakni penicillus artinya kuas. Dahulu pensil terdiri dari dua bahan, granit dan kayu sebagai pembungkusnya. Grafit berasal dari kota Yunani, "Grafien" artinya menulis. Sebelum ditemukan bahan grafit, pensil belum ada. Namun pada Tahun 1564, Conrad Gesner seorang ahli Botani Swiss, telah menemukan sebuah grafit (yang saat itu belum ada namanya) di Borrowdale, Inggris. Penemuan ini dipaparkan didepan umum sebagai bahan untuk menulis pada tahun 1565.
Namun saat itu, pengolahan grafit sebagai alat tulis sangat tidak lazim, karena selain masih berujud bongkahan, grafit masih harus dililit dengan tali. Begitu grafit mulai menipis, maka tali secara bertahap akan dilepas lilitannya. Cara lainnya adalah dililit atau dibungkus dengan kertas. Begitu grafit habis, maka kita boleh merobeknya secara bertahap agar grafit bisa kelihatan dan dapat digunakan untuk menulis. Nama grafit dicetuskan oleh Abraham G Werner seorang ahli geologipada tahun 1789.
Penggunaan seperti diatas yang sangat tidak efisien, ribet dan mengotori kertas itu ternyata menginspirasi beberapa orang untuk memasukkan grafit ke dalam potongan kayu yang mudah dipegang. Tahun 1662 pensil kayu dibuat secara massal di Jerman, sebuah negara penghasil grafit, yang bentuknya sama seperti yang kita lihat saat ini. Beberapa negara penghasil grafit seperti Inggris, Jerman, dan Siberia telah memonopoli industri pensil dunia. Akhirnya negara-negara lain hanya memiliki sedikit grafit harus mengolah otak bagaimana cara membuat grafit sintesis, namun hasilnya lebih baik dari Grafit murni. Perlu diketahui, grafit murni mudah patah.
Tak lama kemudian dibuatlah sebuah pensil berbahan grafit dan dicampurkan dengan tanah liat. Kedua bahan tersebut dilembutkan dengan air dan setelah itu dibakar. Itulah isi pensil saat ini yang kita pakai. Semakin banyak kandungan grafitnya, maka semakin hitam pula warna tulisannya. Simbol B berarti Boldness atau kekebalan, yang berarti kandungan grafitnya lebih banyak. Simbol H menunjukkan kekerasan, yakni kandungan tanah liatnya lebih banyak. Simbol F menunjukkan bahwa pensil tersebut sangat mudah untuk diraut.
