Aprendió a tocar el ukelele, más tarde continuó con el violín hasta un día en que hizo un cambio con su hermano, entre una vieja pistola y unos cuadernos de guitarra. En plena crisis mundial, en los años 40, vivían en una profunda pobreza. Se vieron obligados a trasladarse a Fortson, Georgia, para vivir con su padre debido a que el pequeño padecía un asma muy agudo. Atkins era un joven sensible y para el, la música era su obsesión. Debido a su enfermedad, se vio obligado a dormir en una silla de respaldo recto para poder respirar un poco más cómodo. En esas noches, tocaba la guitarra hasta que se dormía, una costumbre que duró toda su vida. Se hizo un guitarrista dotado mientras estaba en educación media. Atkins era autodidacta y, más tarde, la vida le concedió junto a Tommy Emmanuel, Jerry Reed y John Knowles el graduado honoris causa «CGP», significando «Guitarrista Certificado» (en inglés, Certified Guitar Player). Su hermanastro Jim fue también un guitarrista acertado que llegó a trabajar con el Trío de Les Paul en Nueva York.
Atkins en 1939, cuando, todavía vivía en Georgia, oyó tocar a Merle Travis en la radio (la WLW). Esta influencia temprana influyó en su forma propia de tocar. La mano derecha de Travis utilizaba su índice para la melodía y el pulgar para el bajo, Atkins amplió su estilo de mano derecha incluyendo una pulsación de las cuerdas con sus tres primeros dedos, y con el pulgar sobre el bajo. El resultado fue un sonido, a la vez claro y ala vez complejo que hizo su sonido inequívoco. Después de dejar el colegio en 1942, consiguió un trabajo en WNOX la radio de Knoxville. Allí tocó el violín y la guitarra con el cantante Bill Carlisle y el cómico Archie Campbell así como también se hizo miembro de la estación «Dixieland Swingsters», un pequeño combo instrumental de swing.
A los tres años, fue a la radio WLW en Cincinnati, Ohio, donde Merle Travis anteriormente había trabajado. Después de seis meses él se movió a Raleigh y trabajó con Johnnie y Jack antes de dirigirse a Richmond, Virginia, donde tocó con la banda «Sunshine Sue Workman». La timidez de Atkins se le vino en su contra, muchos dudaron que fuera realmente un intérprete «country». A pesar de ello fue capaz de conseguir otro trabajo en otra emisora de radio. Atkins hizo sus propios discos, que por lo general tenían influencia de pop y de jazz, en un estudio que tenía en su casa. Los guitarristas de todos los estilos llegaban de todas partes para admirar sus álbumes debido a sus ideas musicales únicas y en algunos casos, sus ideas electrónicas experimentales. En este período Atkins se hizo conocido internacionalmente como «Mister Guitar» (Señor Guitarra), que es también el nombre de uno de sus álbumes. Su marca registrada para tocar, «el Estilo de Atkins», es muy difícil de dominar para un guitarrista. Consiste en usar el pulgar y los primeros dos -a veces tres- dedos de la mano derecha. Atkins desarrolló este estilo al escuchar a Merle Travis de vez en cuando de una radio primitiva. Él estaba seguro de que nadie podría tocar esto articuladamente con solamente el pulgar y el índice (que en realidad era exactamente como Travis lo tocaba) y asumió que para esto se requerían el pulgar y dos dedos. Así llegó al estilo que él promovió y dominó.
El hit más grande de Atkins fue el single de 1965, «Yakety Axe» una adaptación de su amigo saxofonista Boots Randolph, «Yakety Sax». Él raras veces se presentaba en vivo en aquel tiempo, y eventualmente tuvo que contratar a otros productores de RCA como Robert Ferguson y Felton Jarvis para aliviar su carga de trabajo. Un combate en 1973 contra el cáncer de colon, sin embargo, condujo Atkins a redefinir su papel en RCA y permitir a otros manejar la administración mientras que él volvió a su primer amor, la guitarra, a menudo grabando con Reed o incluso con Homer y Jethro en Jethro Burns (el cuñado de Atkins) después de que Homer muriese.
Hasta finales de los años 70, Atkins trabajó como productor. Nuevos ejecutivos en RCA tenían ideas diferentes. Primero se retiró de su posición en la empresa, y luego comenzó a sentirse incómodo como artista porque RCA no le dejaría diversificarse en el jazz. Al mismo tiempo se molestó con la dirección Gretsch ya sin posesión familiar sobre ella. Retiró su autorización para que usaran su nombre y comenzó a diseñar guitarras Gibson. Finalmente abandonó RCA en 1982 y firmó con Columbia Records, para la cual produjo un álbum de estreno en 1983. Mientras estaba con Columbia, mostró su creatividad y gusto en la guitarra de jazz, y en varios otros contextos. El jazz siempre fue su amor y, a menudo, en su carrera fue criticado por músicos «puros» de country del país, por sus influencias de jazz. También dijo en muchas ocasiones que no le gustaba ser llamado un «guitarrista country», insistiendo que él era un guitarrista nada más. Aunque tocase ‘de oído’ y fuese un improvisador magistral, también fue capaz de leer la música y hasta realizó algunos arreglos de guitarra clásicos con gusto y distinción. Más tarde, volvió al country con álbumes que él registró junto a Mark Knopfler y Jerry Reed. Siendo requerido a nombrar a los diez guitarristas más influyentes del siglo XX, nombró a Django Reinhardt en primera posición de la lista, y él mismo se ubicó quinta posición.
En años posteriores volvió a la radio, apareciendo en Garrison Keillor’s Prarie Home Companion, llegando incluso al punto de tocar un violín de tiempo en tiempo.
Atkins recibió numerosos premios, incluyendo once Premios Grammy y nueve premios de la Country Music Association. Mientras hacía más y más actos, en los años 1990 su salud se resintió y el cáncer volvió y esta vez empeorado. Chet Atkins moría el 30 de junio de 2001 en su casa en Nashville.
Muere Chet Atkins, legendario guitarrista: El legendario guitarrista de música country Chet Atkins que ayudó a dar a conocer el «Nashville Sound» (el sonido Nashville, la capital de la música country en EE UU) con toques pop, ha muerto a la edad de 77 años. Atkins, que llevaba varios años luchando para vencer el cáncer que padecía, ha muerto en su casa de Nashville, después de haber superado un cáncer de colon en 1973 y un tumor cerebral en 1997. El guitarrista intervino en cientos de discos incluyendo los de Elvis Presley y los Everly Brothers además de haber sido muy importante en las carreras de Dolly Parton y Roy Orbison.
Atkins fue citado muchas veces en todas partes de su carrera, y en su propio legado él una vez dijo:
«Años después, luego de que me haya ido, alguien escuchará lo que hice y sabrá que yo estuve aquí. A ellos no les importará quién era yo, pero ellos oirán a mis guitarras hablando por mí.»