Jednota českých matematiků a fyziků (JČMF) započala svou činnost v roce 1862 jako zájmový spolek při pražské univerzitě. Od roku 1872 vydávala Časopis pro pěstování mathematiky a fysiky.
Během jednoho a čtvrt století své existence JČMF vyvíjela různorodou činnost a napomáhala profesionálnímu růstu několika pokolení vědců a učitelů. Stala se československou po roce 1918 a opět českou v nedávné době. Její původní časopis se rozdělil v několik specializovaných; ve fyzice je jeho současným přímým pokračovatelem Československý časopis pro fyziku, který publikuje přehledné populární články, diskuse, recenze knih a zprávy z oboru. Časopis je v současné době publikován Fyzikálním ústavem Akademie věd ČR a v elektronické podobě je po registraci dostupný zdarma.
Během více než jednoho a půl století své existence JČMF napomohla profesionálnímu růstu již několika pokolení vědců a učitelů ve fyzikálních oborech v českých zemích a na Slovensku. Udržovala a rozvíjela vědecké kontakty také se zahraničními odbornými společnostmi a významnými představiteli oboru.
Potřeba specializace vedla v roce 1968 k založení Fyzikální vědecké sekce (FVS) v rámci JČMF jako odborné platformy pro členy zabývající se fyzikálním výzkumem, nebo se na takovouto dráhu připravující. Již v meziválečném období působila v rámci JČMF aktivně vědecká fyzikální sekce; v rámci jí pořádaných odborných přednášek vystoupila také řada zahraničních odborníků.
FVS si klade za cíl být moderní národní fyzikální společností a partnerem pro zahraniční národní a mezinárodní fyzikální společnosti, zejména pro Evropskou fyzikální společnost (EPS).
Současně s FVS JČMF vznikla i Fyzikální vědecká sekce Jednoty slovenských matematiků a fyziků (JSMF), dnes Slovenská fyzikálna spoločnosť (SFS). Obě sekce úzce spolupracují.
Během své dosavadní existence ČFS vybudovala strukturu odborných skupin zaměřených na jednotlivé fyzikální obory a pořádajících specializované odborné akce. ČFS je svými členy zastoupena na všech větších fyzikálních pracovištích ČR.
Důležitými mezníky v činnosti FVS jsou národní Konference českých a slovenských fyziků, které se konají jednou za tři roky:
- 1969 Brno
- 1971 Bratislava
- 1973 Olomouc
- 1975 Liberec
- 1977 Košice
- 1979 Ostrava
- 1981 Praha
- 1985 Bratislava
- 1987 Pardubice
- 1990 Brno
- 1993 Žilina
- 1996 Ostrava
- 1999 Zvolen
- 2002 Plzeň
- 2005 Košice
- 2008 Hradec Králové
- 2011 Žilina
- 2014 Olomouc
- 2017 Prešov
- 2020 Praha (pro SFS online kvůli pandemii Covid)
Za úzké spolupráce tehdejší FVS JČMF se v roce 1984 v Praze konala 6. Generální konference Evropské fyzikální společnosti.