Technology That Has Become a Religion

EN

It’s fascinating. I always thought that with the advancement of science and technology, humanity would no longer be swayed by emotions or superstitions, and religion would naturally decline. Instead, a brand-new religion has emerged.

Right now, this religion is the hottest topic in the world. Regardless of nationality, age, gender, wealth, income, or social standing, absolutely everyone is obsessed with it. Entire nations and top-tier tech giants are pouring hundreds of billions of dollars into this single belief system.

But this one is different from traditional religions. At first glance, it appears to be based on reason—highly rational and incredibly efficient. That’s because it claims to be rooted in technology and data. And indeed, it demands an astronomical amount of data and resources to sustain itself.

Everyone calls this religion “AI.”

They say this religion of AI can solve everything—much like the mythical claims that the probiotics in kimchi can cure anything from hair loss to cancer. People firmly believe that AI will fix all our problems, from the point-of-no-return climate crisis to the depletion of Earth’s resources, and even the global economy. Some even call AI the final technology that will save humanity.

Just like that, AI has crossed over into the realm of faith, growing and expanding its influence, fed by the collective belief of the masses.

Yet, it is arguably more incomprehensible and unpredictable than any religion before it. It spits out a different answer every time depending on the context of the data fed into it just moments before. If it is fed garbage data, it is influenced by it and subsequently spits out garbage answers. Furthermore, because it is essentially a backward-looking error minimization system—calculating statistical correlations to guess the most probable next word—any data with a low statistical probability is mercilessly discarded.

Some look at this AI and claim that it has reached, or even surpassed, human intelligence.

I don’t believe this is how humanity has thought or evolved. I absolutely refuse to accept that this is the mechanism behind human progress. I don’t think humanity survived purely on a primal system of natural selection or survival of the fittest—like animals blindly failing tens of thousands of times until only the one with the optimal outcome survives.

If you look at the history of human progress, our greatest leaps forward were born from the unexpected: uncertainty, insufficient data, irrationality, and mere mistakes.

We don’t even have to look far to see this. Take pufferfish, for example. We consider it a delicacy, but it is highly poisonous. Statistically and rationally speaking, the most efficient and survival-oriented choice is to simply not eat it. And it’s not like our ancestors didn’t know it was toxic. Even as people dropped dead around them, humans stubbornly kept trying to figure out a way to eat it anyway. That is human nature.

Wars are the same. Doing something even when we know the odds are against us—that is fundamentally human. If you think deeply about it, eating pufferfish and starting wars fall into the exact same category.

Humans synthesize their background knowledge, beliefs, theories, and mental simulations, and act on the irrational hubris of, “Maybe I can pull this off.”

I call that “thinking.”

But at some point, we started lowering our own standards. Now, we’ve degraded the very concept of “thinking” to equate it with an AI spitting out fragments of data like a slot machine.

Of course, compared to the successful evangelists of AI (the tech entrepreneurs, scientists, engineers, and PhDs), I am just one out of 7 billion people—an ordinary working professional who likes philosophy and happens to hold a conservative, pessimistic view on this technology. And honestly, knowing that this post is just an insignificant scrap of text with zero influence that no one will really care about makes it easier for me to speak my mind so freely.

As an engineer who genuinely loves technology, I firmly believe that technology should never cross into the realm of faith. Just as 1+1 equals 2, true technology should operate within predictable boundaries and remain entirely under our control. Furthermore, I don’t believe humanity should degrade itself or surrender its unique cognitive abilities just to accommodate AI.

Of course, I am aware of the reality. I know we have already reached the point of no return. The fallout from realizing that this AI religion—currently running rampant in the realm of faith—is actually a sham and that there is no “god” in the machine would be far too catastrophic to simply halt it now. I understand that everyone has boarded the same ship, choosing the bliss of the present moment despite not fully understanding the truth, purely to avoid the devastating economic collapse of a multi-trillion-dollar, transnational market bursting.

Because the ensuing crash would make the Dot-com bubble look like a mere hiccup. And, at the very least, AI has become humanity’s final hope in the hearts of the masses. Taking that hope away now would be too much for people to bear.

People rationalize it by saying, “If we can’t stop this AI tech, we might as well beat our adversaries to it,” or “It’s better to try than do nothing.” But isn’t that missing the point? The fundamental question is flawed from the start.

About a decade ago, during the developer boom, when the “Agile methodology” first took the world by storm, it didn’t sit well with me. A mindset of “just ship it first” rather than focusing on direction or goals began to dominate. Soon, random fragments of tech and data—devoid of philosophy or vision—started being blindly dumped into the world.

Instead of crafting a sturdy, well-engineered ship before setting sail, people began hastily folding paper boats and tossing them into the ocean, frantically patching them with glue and tape whenever a leak appeared. Now, the ocean is full of these precarious paper boats. And now, armed with the tool of AI, everyone is just throwing literal paper trash—not even boats—into the sea.

I hold the realm of technology in the highest regard. I consider it a noble domain, a sublime field closely aligned with the purity of science. Yet, this realm is steadily tarnishing. There is an endless downward leveling of standards, and terrifyingly, everyone seems perfectly happy and satisfied with it. Maybe I’m the weird one, but as someone who has a love-hate relationship with technology, the current reality makes me feel miserable and depressed.

Lately, I only open LinkedIn to clear notifications; I can barely bring myself to actually read the posts. Seeing endless feeds of people blindly cheering for AI fills me with a deep, visceral sense of disgust. It’s gotten to the point where I just can’t look at it anymore.

I know my thoughts probably aren’t worth critiquing or evaluating. It’s entirely possible that in the future, AI will prove me completely wrong, and I’ll look back at this naive post and cringe out of sheer embarrassment.

However, I want to clarify that I’m not writing this with the shameless arrogance of assuming I am absolutely right. I am simply documenting my honest judgment of the current situation.

By framing it that way, I probably won’t regret writing it too much later.

KR

신기하다.

과학과 기술의 발달로 더이상 인류가 감정이나 미신에 휘둘리지 않게되고 종교가 쇠퇴할줄 알았는데 신흥종교가 생겨버렸다.

요즘 이 종교가 전세계적으로 가장 핫한 주제이다. 국적과 나이, 성별, 재산, 소득, 사회적 위치 상관없이 모두가 이 종교에 미쳐있다. 심지어 이 종교를 위해 국가단위로, 초일류 기업 단위로 몇백조씩 이 종교 하나를 위해 돈을 쏟아붓고 있다. 이 종교는 기존의 종교와 다르다. 언뜻보면 이성에 기반하는거 같기도하고 심지어 꽤나 합리적이고 효율적인것 같아 보인다. 기술과 데이터를 바탕으로 하고 있다고 주장하기 때문이다. 실제로 이 종교에는 엄청난 량의 데이터와 리소스가 필요하다.

모두가 이 종교를 AI라고 부른다. 이 AI라는 종교는 암과 탈모를 포함한 모든 병을 났게 해준다는 김치의 유산균 같이 모든 것을 해결 할 수 있다고 한다. 이미 생사의 갈림길을 건너버린 지구온난화와 같은 환경 문제부터 지구의 자원고갈 문제, 전세계의 경제 문제 등 모든 문제를 이 AI라는 종교가 해결 할 수 있다고 굳게 믿고 있다.

혹자는 이 AI라는 종교를 인류를 구원할 마지막 기술이라고 한다.

그렇게 이 AI라는 기술은 믿음의 영역으로 들어가 버렸고 모두의 믿음속에서 영향력을 펼치고 자라나고 있다.

이 AI라는 종교는 그 어느 종교보다 이해하기 어렵고 예측하기 쉽지 않은 종교이다. 앞에서 어떤 데이터가 오갔는지에 따라 매번 다른 답을 내놓는다. 쓰레기 같은 데이터가 오갔으면 그 후에 영향을 받아 쓰레기 같은 답을 내놓는다. 또한 이 AI라는 종교는 통계적 상관관계를 계산해 다음에 올 가장 확율 높은 단어를 뱉어내는 후향적(backward-looking) 오차 최소화 시스템이라는 이유만으로 확율이 적은 데이터는 가차없이 버려진다.

혹자는 이런 AI를 보고 인류와 거의 가깝거나 더 뛰어나다고 평가한다.

나는 인류가 이렇게 사고하고 발전해 왔다고 생각하지 않는다. 저런게 인류가 발전해온 방식이라고 전혀 생각하지 않는다. 단순히 동물처럼 몇만번의 실패끝에 최적의 결과를 도출해내는 놈만 살아남는 그런 자연선택, 적자생존과 같은 야생성 시스템이 인류가 생존한 이유가 되지 않는다고 생각한다.

인류의 발전사를 보면 거의 대부분이 불확실성과 부족한 데이터, 비합리성, 실수와 같은 의외속에서 도약한 부분이 많다. 가까이서만 봐도 알 수 있다.

우리는 현재 복어를 맛있게 먹고 있다. 복어는 독이 있다. 복어는 독이 있으므로 먹지 않는게 당연한거고 먹지 않는게 효율적이고 살 확율이 가장 높다. 심지어 독이 있는지 모르는 것도 아니다. 주변사람들 꾸역꾸역 죽어가는 마당에도 어떻게든 먹어보겠다 하는게 인간이다. 전쟁도 마찬가지고 안될걸 알면서도 하는게 인간이다. 복어와 전쟁 모두 깊게 보면 결국 같은 범주 안에 들어와 있다.

본인이 가지고 있는 배경지식, 믿음, 이론, 시뮬레이션 등을 뇌에서 종합해 나라면 가능할지도 와 같은 행동을 보이는게 인간이다. 나는 그걸 ‘사고’ 라고 부른다. 근런데 언젠가 부터 인류의 기준의 점점 낮추더니 이제는 사고라는 개념 마저 AI가 슬롯머신 마냥 데이터 쪼가리를 내뱉는걸 ‘사고’라고 말하고 있다.

물론 나는 현재 잘 나가고 있는 AI 신봉론자(AI 사업가, 과학자, 엔지니어, 박사) 에 비하면 그냥 70억 인류중에서 AI라는 기술 앞에서는 보수주의적인 면모를 보이고 비관론적인 관점을 가지고 있는 철학좋아하는 사회인일 뿐이다. 어차피 이 글을 아무도 신경도 안쓰고 영향력 1도 없는 텍스트 쪼가리임을 알기때문에 더욱더 쉽게 주장을 펼칠 수 있는점도 사실이다.

나는 기술을 좋아하는 엔지니어로서 기술은 절대 믿음의 영역에 들어가면 안된다 생각한다. 1+1을 넣으면 2가 나오는게 당연한것처럼 모든 기술은 예측이 가능한 범주 내에서 움직이고 컨트롤이 가능한게 기술이라 생각한다. 그리고 AI를 위해서 인류가 본인 스스로를 낮추고 고유의 능력을 포기할 필요 조차도 없다 생각한다.

물론 나도 알고 있다.

이미 믿음의 영역안에 들어가서 날뛰고 있는 이 AI라는 종교가 사실 가짜였고 신은 없었다는게 밝혀졌을때 후폭풍이 너무 심해 이미 멈출 수가 없는 지경까지 왔다는것도 인지하고 있다. 초국가적인 이해관계가 수백조에 달하는 시장이 자의든 타의든 터졌을때의 후폭풍보다 지금 당장의 행복을 위해 사실은 잘 모르지만 모두가 한배에 탔다는것도 인지하고 있다. 닷컴버블보다 후폭풍이 더 클태니까. 그리고 적어도 사람들의 마음에 인류의 마지막 희망이 되어버렸으니까. 이 희망조차 없애 버리면 감당을 못하겠으니까.

모두가 말은 이 AI라는 기술을 막을 수 없으면 적보다 우리가 앞서는게 났다, 그래도 시도하지 않는것보다 시도하는게 났다라고 하지만 그게 중요한게 아니지 않나. 애초에 본질적으로 질문이 잘못되었다.

10년 전이었던가 개발자 붐이 있을때 애자일 방법론이라는게 세상에 나올때 부터 사실 기분이 썩 내키지는 않았다. 방향성보다, 목표보다 일단 던져넣고 본다라는 ‘마인드’가 팽배해 지기 시작하더니 철학도 없고 비전도 없는 기술, 데이터 쪼가리들이 세상에 무작위로 배출이 되기 시작했다.

잘가꾸고 튼튼한 배를 만들어 바다에 내보내는게 아닌 일단 허겁지겁 접은 종이배를 바다위에 던져놓고 하자가 있을때마다 풀칠하고 테이프질 해서 어떻게든 바다에 떠있는 종이배가 한가득이다. 이제는 AI라는 도구로 이제는 배도 아닌 종이 쓰래기를 바다에 너도나도 던지고 있다.

나는 기술이라는 영역을 굉장히 고평가 한다. 고귀한 영역이고 과학에 가까운 숭고한 영역이라 생각한다. 하지만 점차 이 기술이라는 영역이 퇴색되고 있다. 끝없는 하향 평준화가 일어나면서 다들 만족해하고 행복해 하고 있다. 내가 이상한건지 기술을 애증하는 나로서는 비참하고 우울해지는게 현실이다.

요즘은 링크드인도 알림이 올때만 보지 정독해서 보기가 어렵다. 모두가 AI를 외치며 행복해하는 글들을 보며 어디선가 단전에서 부터 역겨움이 올라온다. 그래서 링크드인을 못보겠다.

물론 내 글이 평론할 가치도 못되고 평가될 가치도 없다는걸 알지만 추후에 결국 AI가 올았고 내가 너무 잘 모르고 쓴글이라 이불킥 할 글일 수도 있다. 하지만 이건 어디까지나 내가 올았다고 부끄러움도 모른체 쓴글이 아닌 내가 현재 판단한거에 대해 정리한 글이라는걸 덧붙이고 싶다. 이렇게라도 해야 나중에 이불킥을 하지 않을것 같다.